El distrito escolar de Los Ángeles investiga imágenes inapropiadas compartidas en Fairfax High. ¿Más abuso de la IA?

Los funcionarios escolares de Los Ángeles están investigando acusaciones de que se “crearon y difundieron fotografías inapropiadas dentro de la comunidad de Fairfax High School”, en lo que parece ser el último presunto uso indebido de la tecnología por parte de los estudiantes, dijo un comunicado del distrito.

La semana pasada, los administradores de Laguna Beach High School anunciaron que habían iniciado una investigación después de que un estudiante supuestamente creara y circulara “imágenes inapropiadas” de compañeros de clase mediante el uso de inteligencia artificial.

En enero, cinco estudiantes de octavo grado de Beverly Hills fueron expulsados por su participación en la creación y distribución de fotografías falsas de desnudos de compañeros de clase. Los estudiantes superpusieron fotografías de rostros de compañeros de clase sobre cuerpos desnudos generados por inteligencia artificial. En total, 16 estudiantes de octavo grado fueron blanco de las imágenes, que fueron compartidas a través de aplicaciones de mensajería, según el distrito.

No quedó claro de inmediato si se utilizó IA en el incidente en Fairfax High. El Distrito Escolar Unificado de Los Ángeles no proporcionó esa información en su comunicado.

“Estas acusaciones se toman en serio, no reflejan los valores de la comunidad del Distrito Unificado de Los Ángeles y resultarán en medidas disciplinarias apropiadas si se justifica”, dijo el distrito en el comunicado, que se envió a los padres el martes por la tarde.

Según una investigación preliminar, “las imágenes supuestamente fueron creadas y compartidas en una aplicación de mensajería de terceros no afiliada al Distrito Unificado de Los Ángeles”, afirmó el distrito.

Los funcionarios del distrito llamaron la atención sobre sus esfuerzos para brindar lecciones de “ciudadanía digital” a los estudiantes desde la escuela primaria hasta la secundaria. En el comunicado, los funcionarios dijeron que el segundo sistema escolar más grande del país “se mantiene firme en brindar capacitación sobre el uso ético de la tecnología, incluida la inteligencia artificial, y está comprometido a mejorar la educación en torno a la ciudadanía digital, la privacidad y la seguridad para todos en nuestras comunidades escolares”.

En investigaciones similares ha participado el departamento de policía local. El Distrito Unificado de Los Ángeles no reveló si la policía de Los Ángeles o la policía escolar han estado involucradas en su investigación o si se han tomado acciones disciplinarias.

La tecnología ‘deepfake’ se puede utilizar para combinar fotografías de personas reales con cuerpos desnudos generados por computadora. Estas imágenes falsas pueden producirse utilizando un teléfono móvil.

Una estudiante de secundaria de 16 años en Calabasas dijo que un antiguo amigo usó inteligencia artificial para generar imágenes pornográficas de ella y las hizo circular, informó KABC-TV el mes pasado. En enero, se distribuyeron en las redes sociales imágenes sexualmente explícitas de Taylor Swift generadas por IA.

Si un estudiante de California comparte una foto desnuda de una compañera de clase sin consentimiento, es posible que el estudiante sea procesado bajo las leyes estatales que se ocupan de la pornografía infantil y la conducta desordenada, dicen los expertos. Pero estas leyes no necesariamente se aplicarían a un ‘deepfake’ generado por IA.

Se han propuesto varios proyectos de ley federales, incluido uno que haría ilegal producir y compartir material sexualmente explícito generado por IA sin el consentimiento del individuo retratado. Otro proyecto de ley permitiría a las víctimas presentar demandas.

En California, los legisladores han propuesto ampliar las prohibiciones de la pornografía infantil y de venganza a las imágenes generadas por computadora.

Los distritos escolares están tratando de controlar la tecnología. Este año, el Departamento de Educación del Condado de Orange comenzó a organizar reuniones mensuales con los distritos para hablar sobre la IA y cómo integrarla en el sistema educativo.

To read this note in English click here.