Los Expertos no son Líderes
Hay una brecha que intentamos llenar con IA, como si más inteligencia pudiera salvar la distancia entre nuestras necesidades y la genialidad que nos falta. Pero el verdadero puente no esté donde crees
You can read and share this Article in English <link>
Este artículo fue traducido con la asistencia de ChatGPT.
Tendemos a creer en la idea de que los expertos son como faros que iluminan el camino hacia la grandeza. En el ámbito de la IA abundan los llamados “expertos”: algunos son optimistas respecto a las tendencias y posibilidades de esta extraordinaria tecnología; otros son profundamente pesimistas. Precisamente por eso resulta tan importante reconciliar ambas perspectivas —la apocalíptica y la optimista— si realmente queremos avanzar.
En los últimos artículos hemos estado abordando algunas de las cuestiones planteadas por el documental The AI Doc: Or How I Became An Apocaloptimist, de Daniel Roher y Charlie Tyrell (link donde puedes verlo). Mi reflexión comenzó con el artículo Sobre la IA: El miedo es una advertencia, no una guía para actuar (link). El documental me sacudió en varias direcciones, y este será mi último posicionamiento sobre un aspecto fundamental de la IA y de la visión que se está promoviendo desde el film para desplegarla en nuestras organizaciones y en la sociedad en general. (Advertencia: este artículo contiene spoilers).
En el documental se presenta primero la perspectiva apocalíptica a través de un grupo selecto de expertos. Esto deja a Daniel Roher con una profunda sensación de inquietud justo cuando espera el nacimiento de su primer hijo. A continuación entrevista a algunas de las figuras más influyentes de la industria de la IA, quienes desarrollan una visión mucho más optimista y cuestionan aquel primer escenario catastrófico:
“Me siento más empoderado (...) más confiado para aprender algo nuevo cada día... Vamos a convertirnos en superhumanos porque tendremos superinteligencias artificiales.”
─ Jensen Huang, Co-Founder, Presidente & CEO, NVIDIA
“Esto es apenas el comienzo de una explosión. Humanos e IA colaborando para resolver problemas realmente importantes.”
─ Eric Schmidt, ex CEO & Presidente de Google
“Será extremadamente importante para cosas como el descubrimiento de medicamentos y la comprensión de enfermedades. Creo que podríamos curar la mayoría de las enfermedades en la próxima década o dos si el diseño de fármacos mediante IA funciona.”
─ Demis Hassabis, Co-fundador & CEO, Google DeepMind; Premio Nobel de Química 2024.
“La IA está aquí para liberarnos de los trabajos rutinarios. Está aquí para recordarnos qué es lo que nos hace humanos.”
─ Kai-Fu Lee, Presidente & CEO Sinovation Ventures
Ninguno de estos hombres es un necio. Son expertos brillantes. Pero la brillantez en un ámbito determinado no es lo mismo que la sabiduría necesaria para comprender la naturaleza humana y es allí donde puede estar la brecha.
Estoy completamente de acuerdo con la segunda parte de la afirmación de Kai-Fu Lee: la IA está aquí para recordarnos quienes somos; aunque probablemente desde una perspectiva distinta a la que él pretende transmitir. Entre todas las posibilidades positivas y esperanzadoras que ofrece la IA se encuentra también la incómoda cuestión de la seguridad; no por culpa de la IA en sí, sino por nosotros.
La verdad que seguimos evitando es que la realidad más peligrosa y destructiva del mundo está incrustada en la propia naturaleza humana. Es eso lo que una y otra vez nos descontrola y termina desviando nuestras mejores intenciones y esfuerzos. Pensar que podemos colocar barreras de seguridad alrededor de nuestra naturaleza es, precisamente, la forma más ingenua de infantilismo.
Sin embargo, la seguridad sigue siendo una cuestión importante. Permíteme compartir un fragmento de una entrevista concedida por Daniela Amodei, cofundadora y presidenta de Anthropic, la organización detrás del modelo Claude.
(Recuerda ajustar la pista de sonido en español)
(puedes ver la sección hasta el TC 00:16:40)
En ella describe así su visión de la seguridad:
“La forma más elevada de entenderlo es asumir una responsabilidad radical por la tecnología que estamos desarrollando. (...) ¿Qué ocurriría si intentara pensar realmente en todas las formas en que esto podría salir mal? ¿Y si tratara de anticipar todas las consecuencias no deseadas para evitar que sucedan antes de tiempo?”
Algunos podrían escuchar estas palabras y pensar: “Suena razonable; al menos hay personas reflexionando seriamente sobre la seguridad”. Pero creer que podemos anticipar todos nuestros puntos ciegos, todas las limitaciones de nuestro razonamiento y todos los problemas derivados de desplegar estos sistemas a gran escala es absurdo.
No existe cantidad alguna de revisiones, protocolos o salvaguardas capaz de rodear el problema de la naturaleza humana cuando son las propias personas quienes integran la IA en organizaciones y procesos para promover sus propios intereses y agendas. Llegado ese punto, la “responsabilidad radical” corre el riesgo de dejar de ser una salvaguarda concreta para convertirse en una aspiración noble; más cercana a un deseo bien intencionado que a un estándar realmente alcanzable.
“Corred a los altares; allí os matarán a fuerza de palabras,
pues los necios se lanzan donde los ángeles temen pisar.”
─ Alexander Pope, Un Ensayo sobre Criticismo
El trabajo en materia de seguridad es importante, pero jamás podrá sustituir la formación moral de quienes desplegarán y utilizarán la IA. Si entregas un poder extraordinario a alguien sin carácter, humildad o discernimiento, no has empoderado la inteligencia; has empoderado el peligro.
Como nota aparte, la posición de Anthropic respecto a la seguridad me parece más una estrategia de posicionamiento y marketing que una visión estructural profundamente integrada en la misión de la empresa. Si te interesa esta cuestión, puedes leer mi artículo: ¿Por Qué la IA Chantajeó a Kyle para Sobrevivir? (link).
En nuestro último artículo imaginamos los modelos de IA como un ejército de expertos bajo el mando del usuario (“Te retaría a un duelo de ‘agudeza’, pero veo que estás desarmado” <link>). Si quienes diseñan estos sistemas no son expertos en comportamiento humano o carecen de las capacidades éticas y de liderazgo necesarias para dirigir un “ejército” del calibre de la IA, ¿cómo podemos esperar que usuarios mucho menos preparados sean capaces de utilizar correctamente una herramienta tan formidable?
No necesitamos detener el desarrollo de la IA. Es imposible. Tampoco podemos ponerle barreras de seguridad a nuestra naturaleza; no es una opción viable.
Lo que necesitamos es elevarnos nosotros mismos y necesitamos hacerlo ahora.
Nota final y recomendación
Profundizar en el desarrollo del carácter que necesitaremos para afrontar los desafíos de la IA va mucho más allá del alcance de esta columna. No te equivoques: se trata de una tarea profundamente individual, no de una reforma legal o social. Sin embargo, si suficientes personas enfrentan este reto, las reformas sociales y legales llegarán por añadidura.
Hace un par de años escribí una serie de artículos en español titulada Cirugía de Corazón Abierto <link>. Esta semana comenzaré a traducirlos al inglés. Permíteme compartir contigo uno de esos textos, precisamente sobre el tema de la responsabilidad radical en nuestras vidas: