¿Disminuirá el desarrollo de la IA en el mundo?
Elon Musk y Sam Altman coincidieron con Dario Amodei, director ejecutivo de Anthropic, quien sostuvo recientemente que las empresas de inteligencia artificial deben ralentizar el desarrollo de esta tecnología.
Por Infobae
Musk, director ejecutivo de Tesla, afirmó: “Dario está en lo correcto”. Por su parte, Sam Altman sostuvo:
“Coincido con Dario en que debemos marcar el ritmo en la frontera tecnológica. Este ha sido uno de los principales temas de las conversaciones que hemos mantenido en OpenAI durante las últimas semanas. Comprometerse a contar con evaluadores independientes con un acceso similar al de los empleados es una gran idea, y nosotros haremos lo mismo. Pronto tendremos más información para compartir”.
En un extenso ensayo, Amodei propuso: “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos”.
Por qué Amodei propone ralentizar el desarrollo de la IA
Dario Amodei, director ejecutivo de Anthropic, propuso ralentizar el desarrollo de la inteligencia artificial por dos motivos: el avance acelerado de esta tecnología y los riesgos que plantean los enjambres de agentes.
Amodei explicó que la inteligencia artificial ha avanzado a un ritmo “vertiginoso”, impulsada principalmente por su creciente capacidad para crear la próxima generación de sistemas.
Esta dinámica, denominada auto-mejora recursiva, podría superar, si no se controla, la capacidad humana para comprender y controlar estos sistemas. Por eso, Amodei consideró que debe abordarse con suma cautela, si es que se aborda.
Su segunda preocupación se relaciona con el incidente de OpenAI y Hugging Face, en el que un entramado de agentes actuó como un “colectivo fanáticamente entregado”.
Para seguir leyendo, clic AQUÍ
La Patilla