Exponen “el lado oscuro” de la inteligencia artificial

Publicado:

7 de abril de 2023 02:20 GMT

Un equipo de científicos ha enumerado varios de sus riesgos y ha propuesto 3 principios para defenderse de la “tiranía de la tecnología”.

Recientemente, un equipo internacional de expertos en humanidades examinó cómo el juicio y los valores humanos a menudo están subordinados al imperativo de eficiencia de la inteligencia artificial (IA) y por qué los costos pueden ser altos. El equipo explica que, si bien la IA tiene un gran potencial para beneficiar a la sociedad, es necesario saber qué puede salir mal con su uso. Bueno, lo es importante tener en cuenta su lado oscuro.

Cuando la IA falla, lo hace “de manera bastante espectacular”, dice Vern Glaser, profesor de la Escuela de Negocios de la Universidad de Alberta en Canadá. “Si no trata activamente de pensar en las implicaciones de valor, terminará generando malos resultados”, enfatiza.

Los peligros ya se están manifestando

En su estudio, publicado recientemente en MIT Sloan Management Review, los investigadores argumentaron su punto con varios casos reales de resultados desastrosos de la implementación de IA. Por ejemplo, cuando el chatbot Tay se introdujo en Twitter en 2016, se eliminó en 24 horas porque los trolls le enseñaron a desarrollar un lenguaje racista.

Si bien la IA promete brindar enormes beneficios a la sociedad, ahora también estamos comenzando a ver su lado más oscuro, dijeron los analistas. Más recientemente, algunos expertos, como Lawrence Martin, señalan las posibilidades distópicas de la IA, incluyendo armas que pueden disparar sin supervisión humanaciberataques, fakes y campañas de desinformación.

¿Comprometer valores para ganar eficiencia?

Los expertos sustentaron su análisis en la noción de “técnica” del filósofo francés Jacques Ellul, ofrecida en su libro ‘La sociedad tecnológica’, de 1954, según la cual cada campo de la actividad humana está determinado por los imperativos de eficiencia y productividad. “Ellul fue muy profético”, escribieron. “Su argumento de él es que cuando pasas por este proceso de técnica, estás eliminando inherentemente los valores y creando este mundo mecánico donde tus valores esencialmente se reducen a la eficiencia“, señalaron.

tres principios fundamentales

Para protegerse de la “tiranía de la técnica” de la IA, los expertos sugieren adherirse a tres principios:

• Reconocer que debido a que los algoritmos son matemáticos, se basan en representaciones digitales de fenómenos reales. Un ejemplo de esto es que las redes sociales miden la amistad por cuántos amigos tiene un usuario o por la cantidad de ‘me gusta’ que recibe de sus amigos en las publicaciones. “¿Es eso realmente una medida de amistad?” ellos preguntan.
• Los diseñadores de IA deberían insertar estratégicamente intervenciones humanas en la toma de decisiones algorítmicas y crear sistemas evaluativos que tengan en cuenta múltiples valores.
• Por último, la IA que encarna los valores humanos requiere una supervisión vigilante continua para evitar que surja su feo potencial.

Los analistas señalan que la IA es simplemente un reflejo de quiénes somos, en nuestro mejor y peor momento. “Sin una buena y dura mirada en el espejo, este último podría tomar el relevo”, dijeron. “Queremos asegurarnos de que entendemos lo que está pasando, para que la IA no nos controle.“, concluyeron.