jueves, 21 noviembre 2024
jueves, 21 noviembre 2024

Ingeniero pide a Microsoft advertir sobre uso de su IA

Advierte que la IA utilizada por la compañía puede crear imágenes violentas y explícitas

Agencias | LA PRENSA DE LARA.- El ingeniero de Microsoft, Shane Jones, ha expresado su preocupación por la seguridad de DALL-E 3 de OpenAI, señalando vulnerabilidades que podrían facilitar la creación de imágenes violentas o sexualmente explícitas. Jones afirma que el equipo jurídico de Microsoft no respondió adecuadamente a sus alertas sobre el problema, lo que lo llevó a presentar una queja directamente ante la FTC, según un artículo de CNBC.

Jones ha solicitado a Microsoft que advierta a los consumidores sobre los riesgos asociados con el uso de Copilot y establezca una clasificación para garantizar la seguridad de los servicios ofrecidos. La implementación del sistema DALL-E 3 por parte de Microsoft ha generado preocupaciones debido a su uso en la creación de deepfakes, incluyendo casos recientes con figuras públicas como Taylor Swift y el papa Francisco.

El ingeniero ha denunciado que el software DALL-E 3 ha generado imágenes perturbadoras a partir de mensajes simples, como representaciones violentas de accidentes automovilísticos o escenas sexualizadas inapropiadas. A pesar de las quejas recibidas diariamente por el equipo de Copilot, del cual Jones formaba parte, Microsoft no ha tomado medidas significativas para abordar estas vulnerabilidades y garantizar la seguridad del sistema.

A diferencia de Google y su inteligencia artificial Gemini, que enfrentó críticas por permitir la generación de imágenes inapropiadas, Microsoft no ha desactivado Copilot Designer a pesar de las preocupaciones planteadas. Mientras tanto, Jones y otros miembros del equipo reciben una gran cantidad de quejas diarias sin contar con los recursos necesarios para abordar eficazmente estos problemas.

La falta de respuesta adecuada por parte de Microsoft ante las vulnerabilidades detectadas en DALL-E 3 plantea serias preocupaciones sobre la seguridad y el uso ético de la inteligencia artificial en la creación de contenido visual.& ;

Información: El Nacional

 

Noticias relacionadas

No te pierdas

Retos virales: TSJ admite recurso para proteger a los niños

El Tribunal Supremo de Justicia (TSJ) de Venezuela informó este jueves 21 de noviembre que admitió un recurso de amparo introducido por el Movimiento Bolivariano de Familias Aristóbulo Istúriz, que pidió la protección de los derechos de niños y adolescentes ante los riesgos que corren por retos virales que circulan en redes sociales, y que causaron la muerte de dos personas e intoxicaciones masivas en varias escuelas.

Redes sociales