La inteligencia artificial (IA) ha evolucionado a una velocidad increíble en los últimos meses, con el lanzamiento de diversas herramientas y bots como ChatGPT de OpenAI, Google Bard, etc. Sin embargo, este rápido desarrollo está causando una profunda preocupación entre los veteranos experimentados en el campo de la IA, tanto que más de 1000 de ellos han firmado una carta abierta en la que piden a los desarrolladores de IA que pongan el freno.
La carta se publicó en el sitio web del Future of Life Institute, una organización cuya misión declarada es «dirigir la tecnología transformadora hacia el beneficio de la vida y alejarla del riesgo extremo a gran escala». Entre los firmantes se encuentran varios académicos destacados, el cofundador de Apple, Steve Wozniak, y el director ejecutivo de Twitter, Elon Musk.
El artículo pide a todas las empresas que trabajan en modelos de IA más potentes que el GPT-4 lanzado recientemente que detengan inmediatamente el trabajo durante al menos seis meses. Esta moratoria debería ser «pública y verificable» y daría tiempo para «desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo de IA avanzada que son rigurosamente auditados y supervisados por expertos externos independientes».
La carta dice que esto es necesario porque «los sistemas de IA con inteligencia competitiva humana pueden plantear riesgos graves para la sociedad y la humanidad». Estos riesgos incluyen la difusión de propaganda, la destrucción de puestos de trabajo, el reemplazo potencial y la obsolescencia de la vida humana y la “pérdida de control de nuestra civilización”. Los autores agregan que la decisión de buscar o no este futuro no debe dejarse en manos de «líderes tecnológicos no elegidos».
AI «para el beneficio obvio de todos»
La carta llega inmediatamente después de las afirmaciones de que GPT-5, la próxima versión de la tecnología que impulsa a ChatGPT, podría lograr inteligencia general artificial. Si es correcto, eso significa que podría entender y aprender cualquier cosa que un humano pueda entender. Esto podría hacerlo increíblemente poderoso en formas que aún no se han explorado por completo.
Además, la carta afirma que no existe una planificación y una gestión responsables en torno al desarrollo de los sistemas de IA, «aunque en los últimos meses los laboratorios de IA se han enfrascado en una carrera incontrolable para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores: pueden comprender, predecir o controlar de manera confiable.
En cambio, la carta afirma que se deben crear nuevos sistemas de gobierno para regular el desarrollo de la IA, ayudar a las personas a distinguir entre el contenido creado por IA y el creado por humanos, responsabilizar a los laboratorios de IA por cualquier daño que causen, permitir que la sociedad se ocupe de la IA. disrupción (especialmente para la democracia), etc.
Los autores finalizan con una nota positiva, diciendo: «La humanidad puede disfrutar de un futuro próspero con IA… en el que cosechamos las recompensas, diseñamos estos sistemas para el beneficio de todos y damos a la sociedad una oportunidad de luchar para adaptarse». Hacer una pausa en los sistemas de IA más potentes que GPT-4 permitiría que eso sucediera, dicen.
¿Tendrá la carta el efecto deseado? Es difícil de decir. Claramente, existen incentivos para que los laboratorios de IA continúen trabajando en modelos avanzados, tanto financieros como de reputación. Pero con tantos riesgos potenciales, y con muy poca comprensión de ellos, los escritores de cartas claramente creen que estos incentivos son demasiado peligrosos para perseguirlos.
Recomendaciones de los editores
