Las graves advertencias sobre la IA son más complejas de lo que se piensa
Las recientes advertencias sobre la IA parecen tener la intención de desconcertar y conmocionar a todo el mundo para que actúe.
El CEO de Anthropic, Dario Amodei, uno de los líderes de la carrera de la IA, pidió el sábado una desaceleración deliberada del desarrollo de la IA en un ensayo publicado en su sitio web. La IA se desarrolla cada vez más rápido y podría superar la capacidad de los seres humanos para gestionarla, escribió.
“Si no se la controla, podría superar nuestra capacidad para comprender y controlar estos sistemas, por lo que debe desarrollarse con mucho cuidado, si es que debe desarrollarse”, escribió Amodei.
El llamado a actuar se produce apenas unos días después de que un exempleado de ingeniería de la empresa de Amodei fuera aún más lejos y dijera que la IA podría causar el fin de la humanidad.
“Las personas que desarrollan la IA creen sinceramente que podría matarnos a todos antes del final de la década”, dijo Jacob Coxon, quien trabajó tanto en OpenAI como en Anthropic antes de publicar en las redes sociales su advertencia, que se volvió viral.
Nadie sabe exactamente cómo acabaría la IA con la humanidad, tal y como Coxon explicó a Anderson Cooper, de CNN.
El argumento es que la IA se vuelve más inteligente todo el tiempo y pronto podrá hacerse más inteligente por sí sola, superar en ingenio a los seres humanos y desatar… algo. ¿Hackear armas nucleares? ¿Liberar un virus devastador? ¿Sumir al mundo en la oscuridad? ¿Crear una sociedad mediocre en la que personas insatisfechas no puedan encontrar trabajo? Elija usted.
Tal vez debería resultar tranquilizador que, aunque el Pentágono depende de la inteligencia artificial, el secretario de Defensa, Pete Hegseth, haya dicho: “La IA no toma decisiones letales”. Más allá de eso, la ley no impone límites explícitos sobre dónde puede utilizarse la IA en la denominada cadena de ataque.
El mensaje de Coxon fue amplificado por grupos de interés público y legisladores que buscan seguir los consejos de las empresas de IA que quieren que el Gobierno imponga un marco y límites a la forma en que se desarrolla la IA.
Empresas como Anthropic y OpenAI han pedido públicamente al Gobierno que las regule para poder frenar su actual carrera por dominar la IA, que coincide con su carrera hacia el mercado bursátil.
Lo que estamos viendo es “un grupo muy pequeño y poderoso de empresas que avanzan juntas hacia lo que, según ellas, es un precipicio por el que no parecen poder evitar caer”, dijo el periodista de tecnología y colaborador de CNN Jacob Ward a Kasie Hunt, de CNN, el jueves.
Sostuvo que no deben ignorarse los llamados de estas personas que están en proceso de ganar mucho dinero.
“Están diciendo: ‘Oigan, estamos construyendo esto y es emocionante, pero podría no solo costarles su empleo, sino también la vida’. Creo que es importante que empecemos a prestar atención”, comentó Ward.
Entre quienes piden medidas gubernamentales está el senador Bernie Sanders, quien se toma en serio las advertencias.
“Casi todos los días surge una nueva historia aterradora sobre cómo las grandes empresas tecnológicas están perdiendo el control de la tecnología que desarrollan, con resultados potencialmente catastróficos”, dijo Sanders al anunciar un proyecto de ley para prohibir la superinteligencia artificial. “Es irresponsable que la sociedad les permita seguir adelante y hacer que estos productos sean aún más avanzados”.