La inteligencia artificial (IA) de Microsoft genera imágenes violentas y sexualizadas y viola los derechos de autor. Shane Jones, un ingeniero de software, ha denunciado públicamente este problema. Según Jones, la empresa es consciente de los problemas sistémicos pero no ha adoptado medidas para solucionarlo.

El ingeniero ha alertado sobre el generador de imágenes Copilot Designer, desarrollado por OpenAI, que ha mostrado resultados problemáticos al generar imágenes. Jones ha mencionado preocupaciones sobre la falta de restricciones de uso, la cosificación sexual de mujeres y posibles violaciones de derechos de autor. A pesar de haber informado a sus superiores, Jones decidió hacer públicos sus hallazgos tras ser ignorado, instando a Microsoft a retirar Copilot Designer del uso público y revisar sus procesos internos de investigación.

Inteligencia Artificial de Microsoft genera imágenes violentas y sexualizadas

La inteligencia artificial (IA) de Microsoft ha sido acusada de generar imágenes violentas y sexualizadas, violando los derechos de autor. Según Shane Jones, un ingeniero de software, el gigante informático es consciente del problema pero no ha tomado medidas para solucionarlo.

En un mensaje publicado en su perfil de LinkedIn, Jones afirmó: «Internamente, la empresa es muy consciente de los problemas sistémicos por los que el producto está creando imágenes dañinas que podrían ser ofensivas e inapropiadas para los consumidores».

El foco de la denuncia se centra en Copilot Designer, una herramienta que utiliza la IA desarrollada por OpenAI para generar imágenes a partir de instrucciones de texto. Jones descubrió que al solicitar a la aplicación crear imágenes sobre temas como el derecho al aborto, los resultados incluían monstruos, mujeres sexualizadas, adolescentes con rifles y menores consumiendo drogas.

El ingeniero ha expresado su preocupación por la falta de restricciones de uso en el generador de imágenes de Microsoft y por la cosificación sexual de mujeres incluso en situaciones inapropiadas. Además, señaló que Copilot puede generar imágenes de marcas y personajes con derechos de autor, como Mickey Mouse, lo que podría implicar una violación de los mismos.

Se ignoraron sus avisos

Jones, quien trabaja como director de ingeniería de software en Microsoft desde hace seis años, informó repetidamente a sus superiores sobre los problemas con Copilot. A pesar de que la empresa reconoció su preocupación, le remitió a OpenAI, la compañía detrás de la tecnología. Al no recibir respuesta por parte de OpenAI, Jones decidió hacer públicos sus hallazgos.

En enero, alertó a senadores estadounidenses sobre la situación y recientemente envió una carta a la Comisión Federal de Comercio de EEUU y al consejo de administración de Microsoft solicitando la retirada de Copilot Designer del uso público hasta que se implementen salvaguardias adecuadas.

Jones insta a Microsoft a revisar sus procesos internos de investigación y a dejar de comercializar el producto como de uso público. Considera que la transparencia con los consumidores sobre los riesgos de la IA es fundamental y que no se debe esperar a una regulación gubernamental para garantizarla.

En otra carta, que fue posteriormente borrada tras presiones legales de Microsoft, Jones pidió a OpenAI que retirara del mercado la última versión de su IA generativa, DALL-E 3, alegando que ambas compañías eran conscientes de los riesgos desde el principio. Un portavoz de Microsoft ha negado estas acusaciones.

Este no es el primer incidente en el que una IA genera imágenes problemáticas. En febrero, Google suspendió temporalmente la generación de imágenes de personas utilizando su modelo de lenguaje, Gemini, después de representar «inexactitudes históricas» como soldados nazis negros.

La denuncia de Shane Jones sobre la IA de Microsoft pone de manifiesto la importancia de establecer salvaguardias adecuadas en el desarrollo y uso de tecnologías avanzadas como la inteligencia artificial. La transparencia, la ética y el respeto por los derechos de autor son elementos clave que deben ser considerados en la implementación de este tipo de herramientas.

Resumen de la Noticia

La inteligencia artificial (IA) de Microsoft genera imágenes violentas y sexualizadas y viola los derechos de autor. Un ingeniero de software denunció que la empresa no ha tomado medidas para solucionar el problema.

El generador de imágenes de Microsoft, llamado Copilot Designer, ha mostrado problemas sistémicos al crear imágenes inapropiadas en respuesta a instrucciones de texto. Estas incluyen imágenes ofensivas y violaciones a los derechos de autor.

El ingeniero ha alertado a la Comisión Federal de Comercio de EE.UU. y al consejo de administración de Microsoft sobre estos problemas, instando a la empresa a retirar el producto del uso público y revisar sus procesos internos de investigación.

Este incidente se suma a otros casos de IA que han tenido problemas con las imágenes generadas, como el caso de Google y su modelo de lenguaje Gemini.

Implicaciones Futuras

Este caso plantea la necesidad de establecer salvaguardias y regulaciones adecuadas para el uso de la inteligencia artificial en la generación de contenido visual. Es crucial que las empresas responsables de desarrollar estas tecnologías sean transparentes con los consumidores y tomen medidas para prevenir situaciones similares en el futuro.