Tiempo de lectura: 5 min

Nota: Este artículo refleja opiniones y análisis personales del autor y no representa la posición de ninguna organización con la que esté o haya estado vinculado.

En 1950, Alan Turing publicó Computing Machinery and Intelligence. El artículo comenzaba con una pregunta que, más de siete décadas después, continúa siendo una referencia inevitable cuando hablamos de inteligencia artificial:

“Propongo considerar la pregunta, ‘¿Pueden pensar las máquinas?’”

Turing se preguntaba si las máquinas podían pensar.

Hoy las máquinas generan textos e imágenes, analizan información, recomiendan decisiones, escriben código y comienzan incluso a ejecutar acciones dentro de procesos empresariales.

Quizá sea momento de formular otra pregunta: ¿Puede gobernarse la inteligencia artificial?

De la capacidad al gobierno

Durante los últimos años, buena parte de la conversación alrededor de la IA se ha concentrado, comprensiblemente, en sus capacidades: ¿Qué puede hacer?, ¿Qué modelo utilizar?, ¿Qué proceso automatizar?, ¿Cómo se integra? y ¿Cómo construir un copiloto o un agente? son preguntas necesarias.

Pero conforme la IA pasa del laboratorio y de los proyectos experimentales al trabajo cotidiano de las organizaciones, aparece otro conjunto de preguntas.

Ahora bien, la evidencia sobre adopción, implementación, riesgo y Gobierno de IA sugiere que los desafíos que acompañan a su utilización no son exclusivamente tecnológicos. Aparecen también problemas relacionados con responsabilidad, autoridad, supervisión, riesgo, datos, seguridad, terceros y capacidades organizacionales. Y eso cambia la conversación.

Porque una cosa es conseguir que una inteligencia artificial pueda hacer algo y otra muy distinta es decidir si debe hacerlo, bajo qué condiciones y con qué límites.

Preguntas que empiezan a aparecer

Imaginemos una organización que comienza utilizando una herramienta de IA para ayudar a sus empleados a redactar documentos; después utiliza otra para analizar información de clientes; más adelante incorpora un sistema que recomienda decisiones; finalmente, conecta un agente a aplicaciones empresariales y le permite ejecutar determinadas acciones.

En cada paso aumenta la capacidad tecnológica, pero también aparecen preguntas diferentes: ¿Quién puede autorizar que una IA tome determinada decisión? ¿Quién responde cuando esa decisión produce consecuencias? ¿Qué sucede cuando una herramienta de IA aparece en la empresa sin haber sido autorizada? ¿Quién decide qué riesgo es aceptable? ¿Qué cambia cuando la IA deja de recomendar y comienza a actuar? ¿Quién puede detenerla?

Ninguna de estas preguntas se responde simplemente eligiendo un mejor modelo. Tampoco desaparecen porque la tecnología funcione correctamente.

Entonces, ¿qué significa gobernar la IA?

Aquí aparece una dificultad adicional. Hablar de Gobierno de IA puede hacer pensar inmediatamente en regulación, compliance, políticas, comités o nuevos controles, pero la cuestión puede comenzar mucho antes. Puede comenzar preguntándonos cómo una organización toma decisiones alrededor de la IA, quién tiene autoridad, quién asume responsabilidad, qué debe conocerse antes de autorizar un uso, qué ocurre cuando algo sale de los límites previstos. Y qué evidencia debería quedar de esas decisiones.

Distintos estándares, marcos de gestión de riesgos, principios internacionales, regulaciones y prácticas empresariales abordan partes de este problema, pero no todos lo hacen de la misma manera. Tampoco existe una única estructura organizacional que pueda considerarse la respuesta correcta para cualquier empresa.

Por ejemplo, una gran corporación regulada y una empresa mediana probablemente no necesitan exactamente los mismos mecanismos. Un chatbot interno y un sistema capaz de ejecutar acciones sobre clientes tampoco plantean necesariamente las mismas exigencias. Pero detrás de esas diferencias aparece una idea común: la capacidad de una IA y la autoridad que una organización decide otorgarle no son la misma cosa.

Una pregunta cada vez más relevante

Esta distinción puede volverse especialmente importante conforme evoluciona la tecnología porque durante años, gran parte de la IA empresarial estuvo orientada a analizar, predecir o recomendar. La IA generativa amplió enormemente las posibilidades de interacción y creación. Ahora, el desarrollo de agentes introduce otra posibilidad: sistemas que no solamente producen una respuesta, sino que pueden utilizar herramientas, interactuar con otros sistemas y ejecutar acciones para alcanzar un objetivo.

Entonces la pregunta cambia nuevamente; ya no se trata solamente de qué información puede producir una IA, también importa qué le permitimos hacer con ella. Y volvemos, inevitablemente, a las preguntas anteriores: ¿Quién autoriza? ¿Quién responde? ¿Quién supervisa? ¿Quién establece los límites? ¿Quién puede detenerla?

¿Puede gobernarse la inteligencia artificial?

Turing formuló en 1950 una pregunta extraordinariamente difícil. Más de siete décadas después, seguimos discutiendo sus implicaciones mientras construimos máquinas con capacidades que entonces pertenecían principalmente al terreno de la imaginación.

La pregunta sobre Gobierno de IA es mucho más reciente, y quizá todavía estamos aprendiendo a formularla correctamente. Porque gobernar la IA no parece ser solamente un problema de tecnología, ni sólo de regulación, ni exclusivamente de riesgo. En el fondo, parece conducirnos hacia algo mucho más conocido por las organizaciones: decidir quién puede hacer qué, bajo qué condiciones, con qué responsabilidad y dentro de qué límites.

La tecnología seguirá avanzando, las capacidades seguirán cambiando y las organizaciones tendrán que decidir qué hacer con ellas. Por eso, setenta y seis años después de aquella pregunta de Turing, y retomando sus palabras:

“Propongo considerar la pregunta: ’¿Pueden gobernarse las máquinas?’”