Columna publicada en La Tercera
Los sucesos ocurridos recientemente en el colegio Saint George han generado consternación, tanto en su comunidad como en la sociedad en general, por la irrupción en nuestro país de los contenidos denominados ultra falsos o deepfakes. A primera vista, lo acontecido parece un asunto gravísimo, aunque puntual; sin embargo, lo inquietante es que hoy nadie está exento de ser afectado por información falsa.
En la era digital actual, la tecnología avanza vertiginosamente, y con ella surgen nuevas herramientas que provocan efectos positivos y negativos en nuestro quehacer. Entre los negativos encontramos los deepfakes, que son videos, imágenes o audios generados por algoritmos de aprendizaje automático que permiten la manipulación y desarrollo de contenido multimedia falso, pero realista. Ellos ocasionan preocupación y son una amenaza ya que pueden ser usados para difamar o denigrar a personajes públicos o personas anónimas, engañar a votantes en procesos electorales, crear noticias falsas e incluso producir material pornográfico sin consentimiento.
Más allá de que los ultras falsos podrían acarrear responsabilidades penales o de otro tipo, corresponde destacar que ellos afectan severamente derechos constitucionales o bienes jurídicos protegidos legalmente. Tal es el caso de la vulneración al ejercicio del derecho a la protección de la honra, del derecho a la integridad síquica, la intromisión ilegal en el derecho a los propios datos, a la propia imagen e incluso a la propia voz; y, en último término, una conculcación a la dignidad de las personas. Sus usos tienen consecuencias demoledoras para las víctimas que, a raíz de la creación y uso de estos, suelen sufrir extorsión, acoso sexual, humillación pública y daño en su reputación personal y profesional. Además, este fenómeno perjudica especialmente a las mujeres. De hecho, la noticia sobre el colegio en cuestión versa sobre estudiantes varones que habrían utilizado inteligencia artificial (IA) para crear y difundir desnudos falsos de adolescentes y niñas de enseñanza básica y media.
Por ello es crucial que se tomen medidas para combatir este problema, involucrando a todos los actores sociales. Las personas deben estar informadas sobre la existencia de esta tecnología y sus riesgos, aprendiendo a discernir sobre la información que consumen y comparten. Las instituciones de educación y los medios de comunicación tienen el deber de educar sobre los peligros de los deepfakes y cómo identificarlos. Por otro lado, los Estados deben asumir la tarea de regular -no solo a nivel nacional- las actuaciones de los desarrolladores y distribuidores de servicios de IA.
Como la tecnología de IA para crear deepfakes se vuelve cada vez más accesible, el desafío será distinguir entre lo falso y lo real sin limitar la libertad de expresión. Se necesita una amplia cooperación y compromiso entre gobiernos, empresas de tecnologías y redes sociales, medios de comunicación y comunidades educativas para abordar este asunto y proteger así a la sociedad de la desinformación.