Publicado:
11 de abril de 2023 06:31 GMT
Los miembros del personal de la empresa advirtieron que el chatbot de inteligencia artificial de Bard estaba haciendo afirmaciones inexactas y peligrosas.
Dos empleados de Google que revisan los productos de inteligencia artificial (IA) de la empresa intentaron en marzo impedir que la empresa lanzara su chatbot Bard AI, advirtiendo que la herramienta hacía afirmaciones inexactas y peligrosas, informa The New York Times.
Investigadores de gigantes tecnológicos como Google y Microsoft afirman que las empresas se arriesgan lanzando una tecnología que incluso sus propios desarrolladores no entienden completamente. Google lanzó Bard después años de desacuerdo interno sobre si los beneficios de la inteligencia artificial generativa, la tecnología que impulsa a los chatbots, superan los riesgos.
El equipo de Innovación Responsable de la compañía documentó una serie de problemas con los chatbotscomo que podrían producir información falsa, perjudicar a los usuarios que se apeguen emocionalmente a ellos y permitir el “violencia facilitada por la tecnología” a través de la intimidación masiva en línea.
La carrera por dominar el mercado
Dos revisores de ese equipo habían presentado una evaluación de riesgos de Bard en la que recomendaban bloquear su publicación inminente. A pesar de las medidas de seguridad adoptadas, creían que el el chatbot no estaba listo. Sin embargo, la líder del equipo de Innovación Responsable, Jen Gennai, editó el documento, eliminó esas recomendaciones y minimizado la severidad de los riesgos de Bard, según fuentes familiarizadas con el asunto.
En declaraciones a The New York Times, Gennai defendió sus acciones afirmando que Bard es solo un experimento., por lo que los revisores no deben compartir sus opiniones sobre el comportamiento de la empresa. Agregó que “suposiciones incorrectas corregidasy en su lugar agregó “más riesgos y daños que necesitaban consideración”. Esto hizo que el chatbot fuera más seguro, insistió.
Hasta hace poco, las empresas de tecnología tenían aversión al riesgopero ahora están haciendo movimientos agresivos en su intento de hacerse con el control de lo que podría ser el la próxima gran cosa de la industria: la IA generativa.
Vía País es una red de sitios web de noticias de la Argentina. Cuentan con cobertura nacional a través del mismo sitio web www.viapais.com.ar y además de diferentes sitios regionales en las principales plazas del interior del país, como: Rosario, Córdoba, Mendoza y Buenos Aires.
