¿Qué es la "caja negra" de la Inteligencia Artificial y por qué tiene en alerta a los expertos?

El debate sobre el desarrollo de estos software continúa y ahora ha surgido un nuevo concepto en el mundo de la tecnología. ¿Qué significa este fenómeno y qué tan preocupante es su conocimiento? Acá los detalles.

Viernes 21 de abril de 2023 | 19:14

Son muchos los conceptos que cada año se vuelven más "populares" en el lenguaje cotidiano, pero hay uno que se ha robado la película en la comunidad científica. Es la Inteligencia Artificial. Si uno busca su definición en Google, explican que ésta es "un conjunto de tecnologías que permiten que las computadoras realicen una variedad de funciones avanzadas". Entre ellas se incluye la capacidad de "ver, comprender y traducir lenguaje hablado y escrito", aunque eso no es todo, ya que también analiza datos y hasta hace recomendaciones. El más conocido en estos días es el ChatGPT, una herramienta que facilita el hacer tareas y exámenes, entre otras, con una pregunta entregando contenido preciso.  

VER MÁS SOBRE INTELIGENIA ARTIFICIAL

 

¿Qué es la "caja negra"?

La IA, como se ha simplificado en sus siglas, ha desatado un amplio debate entre las grandes compañías y empresarios, muchos de los cuales han pedido una "pausa" en su avance. En medio de esto, en los últimos días se conoció el concepto de "caja negra", el cual apunta a la capacidad de los programas de Inteligencia de Artificial de entregar respuestas que en principio no eran esperadas. Sundar Pichai, director ejecutivo de Google, señaló a la BBC que se refiere a que "no lo entiendes del todo. No puedes decir muy bien por qué dijo esto o por qué se equivocó en esto otro". "Tenemos algunas ideas y nuestra capacidad para entenderlo mejora con el tiempo. Pero ahí es donde estamos hasta ahora", agregó. En forma paralela está "la caja blanca", que, en términos sencillos, es cuando los desarrolladores crean un programa en el que las líneas de código introducidas se reflejan en el resultado arrojado por el software. Al respecto, Ian Hogarth, cofundador de la empresa tecnológica Plural, explicó al citado medio que "en la IA, los sistemas son realmente muy diferentes. Están más cerca de una 'caja negra' en muchos sentidos, pues no entiendes realmente lo que sucede dentro". Poniendo un ejemplo concreto, un software que estaba desarrollando Google aprendió a hablar un nuevo idioma en un plazo realmente corto, lo que sorprendió a los especialistas. Así lo confirmó el jefe de la división de IA, James Manyika, a CBS News, quien sostuvo que "descubrimos que, con muy pocas indicaciones en bengalí, ahora (el sistema) puede traducir todo el idioma". Por ahora, el debate continúa sobre qué tan rápido están apareciendo estos sistemas y cómo pueden cambiar la vida cotidiana de los seres humanos, aspecto que varios expertos han calificado como una "revolución".
EFE