Advierte que la IA utilizada por la compañía puede crear imágenes violentas y explícitas
Agencias | LA PRENSA DE LARA.- El ingeniero de Microsoft, Shane Jones, ha expresado su preocupación por la seguridad de DALL-E 3 de OpenAI, señalando vulnerabilidades que podrían facilitar la creación de imágenes violentas o sexualmente explícitas. Jones afirma que el equipo jurídico de Microsoft no respondió adecuadamente a sus alertas sobre el problema, lo que lo llevó a presentar una queja directamente ante la FTC, según un artículo de CNBC.
Jones ha solicitado a Microsoft que advierta a los consumidores sobre los riesgos asociados con el uso de Copilot y establezca una clasificación para garantizar la seguridad de los servicios ofrecidos. La implementación del sistema DALL-E 3 por parte de Microsoft ha generado preocupaciones debido a su uso en la creación de deepfakes, incluyendo casos recientes con figuras públicas como Taylor Swift y el papa Francisco.
El ingeniero ha denunciado que el software DALL-E 3 ha generado imágenes perturbadoras a partir de mensajes simples, como representaciones violentas de accidentes automovilísticos o escenas sexualizadas inapropiadas. A pesar de las quejas recibidas diariamente por el equipo de Copilot, del cual Jones formaba parte, Microsoft no ha tomado medidas significativas para abordar estas vulnerabilidades y garantizar la seguridad del sistema.
A diferencia de Google y su inteligencia artificial Gemini, que enfrentó críticas por permitir la generación de imágenes inapropiadas, Microsoft no ha desactivado Copilot Designer a pesar de las preocupaciones planteadas. Mientras tanto, Jones y otros miembros del equipo reciben una gran cantidad de quejas diarias sin contar con los recursos necesarios para abordar eficazmente estos problemas.
La falta de respuesta adecuada por parte de Microsoft ante las vulnerabilidades detectadas en DALL-E 3 plantea serias preocupaciones sobre la seguridad y el uso ético de la inteligencia artificial en la creación de contenido visual.& ;
Información: El Nacional