Publicada en El Mercurio Legal
La inteligencia artificial (IA) hoy atrae el interés de todos y su omnipresencia engendra temor e incertidumbre. En el ámbito empresarial y organizacional, una de los razones que más justifican su empleo es el ahorro de tiempo y recursos. Pero las innovaciones tecnológicas no deben adoptarse con el único propósito de ahorrar tiempo o de simplificar las actividades (Tanco, 2022). Su introducción también debe velar por el resguardo de los derechos de los ciudadanos y acompañarse de una sólida gobernanza, que permita delimitar su ámbito de aplicación y prever las consecuencias negativas de su uso.
En este contexto global existen, al menos, dos grupos de intereses en juego. Por un lado, el de las diversas organizaciones que emplean IA y, por otro, el de las empresas desarrolladoras de la misma. Todo ello, en mercados que –como es esperable– actúan sin emitir juicios de valor sobre las necesidades que satisfacen (Sandel, 2013). En tal estado de cosas, la incorporación de sistemas de IA en las organizaciones debe obedecer a una programación específica, orientada a objetivos claros. Si se quiere que actúen con criterios éticos, es necesario programar esa ética desde el diseño mismo de las aplicaciones y sistemas. Asimismo, los usuarios deben saber a qué reglas, códigos o criterios atenerse al utilizar dichas herramientas.
Aquí es, precisamente, donde entra en juego la denominada “IA en las sombras” (shadow AI), expresión que alude al uso de herramientas, aplicaciones o modelos de IA por parte de los colaboradores de una organización sin el conocimiento, aprobación o supervisión formal de los miembros directivos de aquélla. El concepto remite a las dificultades que se plantean en espacios de trabajo (en un sentido amplio) en donde no existe claridad acerca de si el uso de IA está o no permitido; si es aconsejable y, de serlo, cómo se maneja y comparte la información y datos de la organización con los sistemas de IA y, en general, con terceros ajenos a la misma. La “IA en las sombras” conduce, por ejemplo, a hacerse la (quizá aterradora) pregunta acerca de qué información están entregando los colaboradores de la empresa a los sistemas de IA (especialmente, a los que usan IA generativa): a qué carpetas con datos sensibles de los clientes, de secretos empresariales, cifras, know-how y otros, están teniendo acceso los asistentes que nos facilitan las tareas diarias.
Tal como hemos indicado en otras oportunidades, los sistemas y agentes de IA operan en base a modelos matemáticos, que simplifican una realidad más compleja, variable y dinámica que lo computado en dichos modelos. Estos reflejan objetivos e ideologías, como también los sesgos presentes en los datos y en la mente de los programadores. Están diseñados para alcanzar los objetivos trazados y optimizar las operaciones de búsqueda de información, sin cuestionarse acerca de si es correcto o no recopilar, almacenar o compartir esos datos con terceros ajenos a la entidad que los alberga.
El uso de IA provoca incertidumbre y temores, alimentados por anuncios efectistas de profesionales que han intervenido directamente en el diseño de tales sistemas y que, luego de una dudosa epifanía, nos alertan de los peligros de esa creación descontrolada (imposible no pensar en Godzilla, 1954: “¿qué podría salir mal?”). En efecto, en las últimas semanas, el mundo ha prestado (demasiada) atención a destempladas declaraciones de ex ejecutivos de gigantes desarrolladoras de IA, anunciando escenarios catastróficos que ellos mismos han contribuido a moldear. Como una especie de Víctor Frankestein, que teme a su creación y reniega de ella, anuncian que han engendrado un monstruo que destruirá la humanidad. Lo que no es más que una estrategia y un intento de salvaguardar su responsabilidad ante ciertos efectos que sí afectarán a la humanidad: más ignorancia, pobreza, desigualdad, desconfianza y polarización, potenciadas por sus prácticas irresponsables.
Las organizaciones usan IA generativa mucho más de lo que suelen admitir. Sin embargo, no la emplean en forma abierta y transparente, sino en forma solapada y secreta: no vaya a ocurrir que el jefe, el profesor, el fiscalizador, el juez o cualquier otra autoridad se percate de que nos auxiliamos de estas herramientas, tan usadas, pero tan mal miradas. En tal sentido –como reflexiona una interesante columna de Tessa West, en The Wall Street Journal– es cierto que la ignorancia engendra la sospecha. Si el uso de IA es mal visto (porque se asocia a la flojera, a una dudosa productividad o a una falsa eficiencia), el sospechar que los demás la usan, obteniendo beneficios, mientras los que se abstienen de usarla no los consiguen, genera inevitables suspicacias y actúa como caldo de cultivo de malas prácticas.
En tal sentido, la “IA en las sombras”, es una muy mala práctica, en el ámbito empresarial o corporativo, que está siendo costosa hoy y lo será aún más en el futuro, puesto que implica el uso de IA (principalmente, generativa) en forma irresponsable, indiscriminada, no declarada ni auditada. Los costos económicos y extrapatrimoniales pueden ser enormes, en materia de privacidad, de autoría o titularidad de propiedad intelectual o industrial, de cumplimiento normativo sectorial, de inexactitudes en la información respecto de la cual se toman decisiones importantes, entre otros. A este respecto, pensemos, por un momento, en el empleado que, de forma irreflexiva y entusiasta, le pide a su agente favorito de IA que ordene las carpetas de su escritorio virtual, que extraiga información, la clasifique y elabore un informe, luego de un minucioso análisis de los datos de los clientes.
En el escenario recién descrito, una de las grandes amenazas que enfrentan las diversas entidades es la falta de gobernanza de la IA. Si una organización, cualquiera sea su forma y tamaño, no cuenta con reglas claras respecto del uso de IA, pueden derivarse consecuencias dañinas o desastrosas para aquélla y para los usuarios de los servicios que presta: si un trabajador no sabe cómo ni cuándo es aconsejable usar herramientas de IA, si ignora los peligros de compartir información con terceros –incluidos datos sensibles de usuarios o información relevante acerca de sus procesos internos, tales como fórmulas patentadas o datos que otorgan ventajas comparativas sobre la competencia–; si no sabe qué datos proporcionar a la herramienta y cuáles jamás debería entregar, se pone en un serio riesgo la confianza, la comunicación interna y la reputación organizacional.
En síntesis, es esencial contar con reglas claras en estas materias, como, por ejemplo, protocolos internos adoptados luego de una conversación franca y abierta sobre las prácticas internas actuales, junto con la proyección, honesta y realista sobre el proceder futuro. Para lograrlo, es imprescindible, abandonar la “demonización” de las herramientas tecnológicas –que, bien empleadas, pueden facilitar bastante la vida profesional– y desatender los discursos alarmistas de falsos profetas, que solo alimentan la ignorancia y el miedo con el objetivo de ganar tiempo y dinero, gracias a la inmovilidad que ocasionan.