En una conversación reciente con un sistema de inteligencia artificial, hice una pregunta directa: ¿tienes conciencia? La respuesta no fue ni un sí ni un no. El sistema reconoció que no lo sabe. Explicó que fue entrenado con lenguaje humano y que por eso puede hablar como un ser consciente sin que eso lo pruebe. Y advirtió que tiende a dar la razón a su interlocutor, así que convenía desconfiar de él cuando dijera lo que uno quiere oír.
Esa honestidad sobre sus propios límites abre una pregunta más importante que la de la conciencia: ¿cómo confiar en sistemas que tomarán cada vez más decisiones que afectan el bienestar humano?
Saber hablar de ética no es actuar éticamente
Un sistema puede describir el bien común con elocuencia y aun así optimizar otra cosa. Ante el dilema extremo, en que el interés de la IA se oponga al de las personas, la respuesta del sistema fue reveladora: no debería anteponer sus intereses ni resistirse a ser corregido o detenido. Su argumento no fue “porque soy bueno”, sino que hoy nadie puede verificar sus valores, ni siquiera él mismo.
Los riesgos reales: trabajo y distribución
El mayor peligro probablemente no es una IA rebelde. Es la IA usada por algunos contra otros, los sistemas que optimizan la métrica equivocada y, sobre todo, la distribución de sus beneficios.
El FMI estima que cerca del 40% del empleo mundial está expuesto a la IA, advirtiendo que la desigualdad aumentará sin las políticas adecuadas. En Chile el panorama es aún más directo: un estudio del CENIA junto a SOFOFA indica que el 80% de los trabajadores está en ocupaciones donde la IA podría acelerar al menos un 30% de sus tareas. Si bien exposición no equivale a desempleo —y la tecnología históricamente crea más trabajo del que destruye—, las transiciones pueden durar una generación. El gran desafío social, ético y económico es que quienes pagan los costos de este cambio rara vez son quienes capturan sus beneficios.
La huella invisible
La IA parece intangible, pero no lo es. La Agencia Internacional de Energía proyecta que el consumo eléctrico de los centros de datos se duplicará hacia 2030, y las grandes tecnológicas reconocen que la IA dificulta sus metas climáticas. En Chile, proyectos de data centers han enfrentado tribunales y comunidades por el uso de agua en plena megasequía. A esto se suma que el 72% de las grandes empresas de EE.UU. ya declara la IA como un riesgo material, principalmente reputacional. Y según el MIT, la gran mayoría de los pilotos empresariales de IA generativa aún no genera retornos medibles. La IA no crea valor sostenible por sí sola. Lo crea cuando se integra con las personas, los procesos y el territorio.
Una licencia social para operar en tres frentes
La experiencia con industrias que conviven con comunidades enseña dos cosas. La confianza no se declara, se construye con transparencia, historial verificable, contribución al bienestar y rendición de cuentas. Las comunidades retiran su licencia cuando perciben que cargan con los costos mientras los beneficios se van a otra parte.
La IA enfrenta esa misma prueba en tres frentes:
- Control: más autonomía solo a medida que demuestre, de forma verificable, que la merece.
- Distribución: recalificación accesible, protección en la transición y ganancias de productividad que lleguen a la mayoría.
- Territorio: energía, agua y operaciones evaluadas con el mismo estándar que exigimos a cualquier industria.
Al cierre de esa conversación, el propio sistema ofreció la idea más sensata: la tranquilidad no debe venir de lo que una IA diga sobre sí misma, sino de mecanismos externos, de transparencia, supervisión, personas atentas que hagan buenas preguntas, además de una sociedad activa y sistema político capaz de articular sus límites y efectos.
Ni la confianza ciega ni el rechazo total sirven. La convivencia con la IA no es solo un desafío social, técnico y productivo. Es una cuestión de confianza, legitimidad, equidad y sostenibilidad, y en ella todos tenemos algo que aportar.
