IA, “cajas negras” cuyo funcionamiento los investigadores intentan descifrar

¿Tienen los diseñadores de inteligencia artificial (IA) talento para la jardinería? En primavera, una publicación de Dario Amodei , cofundador del editor de inteligencia artificial Anthropic, comparó su trabajo con el arte de cultivar plantas. Se seleccionan las especies, el terreno y la cantidad de agua y luz solar, siguiendo cuidadosamente los consejos de los botánicos más influyentes, para crear "las condiciones óptimas que guíen su forma y crecimiento", observó. "Pero la estructura exacta que emerge es impredecible", añadió, y nuestra comprensión de su funcionamiento es "pobre". Lo opuesto a un programa informático clásico, cuyos diseñadores pueden explicar los mecanismos con gran detalle.

Otra imagen, menos rudimentaria, también surge a menudo entre los científicos para describir la IA: la «caja negra». Una analogía que divierte a Thomas Fel, investigador francés especializado en su comprensión, de la Universidad de Harvard. «Paradójicamente, son bastante transparentes», sonríe, porque están compuestas en su totalidad por valores numéricos perfectamente legibles.

En teoría, una IA debería ser más fácil de comprender que un cerebro humano, ya que sus neuronas son más rudimentarias: son simplemente pequeñas calculadoras que almacenan cientos de valores numéricos, lo que les indica cuándo reaccionar a las señales de sus vecinas. Además, pueden ser manipuladas sin el consentimiento del paciente, añade Ikram Chraibi Kaadoud, investigador en IA de confianza en el Instituto Nacional de Investigación en Informática y Automatización (Inria) de la Universidad de Burdeos.

Te queda el 78,56% de este artículo por leer. El resto está reservado para suscriptores.