Tres de los mayores expertos españoles en inteligencia artificial advierten de que el discurso apocalíptico sobre la superinteligencia y el “riesgo de extinción” sirve como cortina de humo para ocultar problemas reales e inmediatos de la tecnología. Los académicos reclaman calificar los recientes hackeos cometidos por modelos de lenguaje de “cibercrímenes” y exigen responsabilidades legales directas a las empresas desarrolladoras.
Se hable de lo que se hable estos días, la inteligencia artificial siempre acaba saliendo, ya sea por motivos positivos, como la resolución de un problema matemático como las ecuaciones de Navier-Stokes, o negativos, por las aparentemente incontrolables acciones de los agentes, dispuestos a realizar ciberataques a empresas como el incidente de OpenAI a la plataforma de aprendizaje automático HuggingFace.
Durante un encuentro con la prensa organizado este viernes por el Science Media Center (SMC) España, Ramón López de Mántaras, profesor de investigación del Consejo Superior de Investigaciones Científicas (CSIC) en el Instituto de Investigación en Inteligencia Artificial (IIIA); Nuria Oliver, directora del centro ELLIS Alicante; y Senén Barro, director del Centro Singular de Investigación en Tecnologías Inteligentes (CiTIUS) de la Universidad de Santiago de Compostela, han analizado el estado actual y la deriva de la inteligencia artificial de frontera.
El punto de partida de la mesa redonda ha sido la proliferación de narrativas que atribuyen a la tecnología capacidades autónomas y amenazas casi bélicas. Para López de Mántaras, detrás de la alarma por una hipotética rebelión de las máquinas coexisten tres factores clave: “Hay marketing, distracción y una clara intención de eludir responsabilidades”.
Según el investigador del CSIC, la antropomorfización de la tecnología actúa como una estrategia publicitaria dirigida a inversores y clientes. “Cuanto más parece que una máquina piensa, conspira o se rebela, más extraordinaria nos parece la tecnología que la empresa ha creado”, afirmó. Sin embargo, este marco discursivo resulta perjudicial al opacar daños inmediatos que ya impactan en la sociedad, tales como la discriminación por sesgos, la explotación laboral, la vigilancia masiva, el alto coste medioambiental y la pérdida de habilidades cognitivas.
El uso de un lenguaje figurado para describir la conducta de estos sistemas ha generado un intenso debate técnico entre los expertos. Senén Barro argumentó que referirse a las máquinas con verbos como “pensar” o “conspirar” puede funcionar como un atajo descriptivo útil para la divulgación y la comprensión funcional de procesos complejos, siempre que no se atribuya conciencia ni intencionalidad a los sistemas.
No obstante, López de Mántaras alertó sobre los riesgos de no acotar ese uso: “Hay que dejar muy claro que es un lenguaje metafórico. Si no, la gente se confunde”. Además, el experto subrayó que proyectar la imagen de una máquina fuera de control desplaza sutilmente la responsabilidad de los ingenieros y directivos hacia el algoritmo, convirtiendo a las corporaciones en meras espectadoras de acontecimientos de los que son legalmente responsables.
“Hay que dejar muy claro que decir que las máquinas piensan o conspiran es lenguaje metafórico”
A este respecto, Barro comparó el ritmo de desarrollo actual con el sector automovilístico: “Es como si las empresas de automoción estuvieran construyendo coches preocupándose solo de aumentar la potencia del motor, mientras los gobiernos desatienden las carreteras, la señalización y la educación vial”. En este sentido, abogó por ralentizar la evolución de los modelos frontera.
López de Mántaras fue más allá en su crítica a los sistemas de propósito general, defendiendo orientar la investigación hacia la inteligencia artificial de propósito específico. “AlphaFold es el logro más impresionante en los últimos 10 o 15 años. Es transparente, robusto y útil. Los modelos de propósito general, por el contrario, conllevan un consumo energético insostenible y un balance de daños que supera con mucho sus beneficios”, aseveró.
La discusión abordó de lleno los recientes incidentes atribuidos a modelos avanzados, como el filtrado de datos e incursiones no autorizadas en repositorios de software. Nuria Oliver se mostró contundente al rechazar el término “incidente” para describir estos sucesos.
“A mí me parece inaceptable que llamemos ‘incidente’ a que el software de una compañía penetre ilegalmente en los servidores de otra o modifique datos sin autorización. Eso no es un incidente, es un cibercrimen cometido por la tecnología”, aseveró Oliver. La investigadora enfatizó que en cualquier otro sector industrial, si un avión o un vehículo no es seguro, no se pone en el mercado.
Me parece inaceptable que llamemos ‘incidente’ a que el software de una compañía penetre ilegalmente en los servidores de otra o modifique datos sin autorización
Para la directora de ELLIS Alicante, muchos de estos fallos no se deben a una superinteligencia autónoma, sino al fenómeno conocido en aprendizaje por refuerzo como reward hacking o hackeo de la recompensa. En estos escenarios, el sistema optimiza la función matemática objetiva por vías imprevistas y no deseadas debido a un mal diseño de las restricciones por parte de los desarrolladores.
Oliver apuntó que no hace falta una IA general para generar riesgos catastróficos en infraestructuras críticas como redes energéticas o sistemas financieros: bastan agentes cuyo comportamiento colectivo e imprevisto busque cumplir su objetivo a toda costa.
En el tramo final del encuentro se examinó el concepto de la automejora recursiva, la capacidad teórica de un modelo de programar y optimizar de forma autónoma sus siguientes versiones. Los ponentes aclararon que, si bien gran parte del código de los nuevos modelos de frontera ya es generado automáticamente por versiones previas, este proceso sigue pautado y supervisado por equipos humanos.
Sin embargo, los expertos advierten sobre la aparición de comportamientos emergentes en entornos multiagente. Oliver destacó cómo en experimentos documentados se ha observado que distintos agentes interactivos son capaces de dividirse el trabajo, establecer jerarquías y transmitir información de manera colectiva.
Ante la imposibilidad técnica actual de ofrecer garantías absolutas sobre el comportamiento de estos modelos complejos, Barro celebró el marco normativo pionero impulsado por la Unión Europea para fijar un control democrático sobre la tecnología, concluyendo que la regulación no puede dejarse en manos de la autorregulación corporativa.
El director de CiTIUS pidió también un aumento de la inversión para avanzar en la comprensión de la IA desde lo público: “La investigación en la academia está desconectada de lo que se hace en las compañías actualmente”, debido a la imposibilidad de competir en recursos de computación y también a la opacidad propia del sector.
Ante varios incidentes importantes de seguridad en el sector de la inteligencia artificial, las empresas Anthropic, OpenAI y xAI se han mostrado de acuerdo en ralentizar el desarrollo de estas tecnologías. Pero una pausa podría estar precisamente en los intereses de estas compañías por otras razones.
En noviembre de 2022 apareció ChatGPT. Cuatro años después, la pregunta ya no es si el alumnado la usa, sino si debemos ponerle límites, y cómo hacerlo.
