Personalidades del mundo de la tecnología, incluyendo a Elon Musk y Steve Wozniak, han enviado una carta abierta advirtiendo sobre los peligros de desarrollar sistemas de inteligencia artificial cada vez más potentes.
La preocupación sobre los riesgos de la inteligencia artificial
La carta abierta pide detener el desarrollo y las pruebas de tecnologías de inteligencia artificial más potentes que el modelo de lenguaje GPT-4 de OpenAI. Los firmantes esperan tener tiempo suficiente para estudiar adecuadamente los riesgos que podrían plantear. Advierten que modelos como GPT-4 ya pueden competir con humanos en diversas tareas y podrían utilizarse para automatizar empleos y difundir información errónea.
Un llamado a suspender el entrenamiento de sistemas de IA
Los firmantes de la carta solicitan una suspensión inmediata de al menos 6 meses en el entrenamiento de sistemas de IA más potentes que GPT-4. Entre los firmantes se encuentran Yoshua Bengio, Steve Wozniak, Yuval Noah Harari, Jaan Tallinn y Elon Musk. La carta fue publicada por el Future of Life Institute.
La pausa debe ser pública y verificable, e involucrar a todos los que trabajan en modelos avanzados de inteligencia artificial. Si no puede promulgarse rápidamente, la carta sugiere que los gobiernos deberían intervenir e instituir una moratoria.
La carrera de la inteligencia artificial y sus implicaciones
El avance en la inteligencia artificial está ocurriendo a un ritmo más rápido de lo que la sociedad y los reguladores pueden asumir. Microsoft, Google y OpenAI están involucrados en una carrera con fines de lucro para desarrollar y lanzar nuevos modelos de IA lo antes posible.
El ritmo del cambio y la escala de la inversión en inteligencia artificial son significativos. Microsoft ha invertido 10 mil millones de dólares en OpenAI y utiliza su tecnología en Bing, mientras que Google ha presentado Bard, un competidor de ChatGPT.
Peter Stone, profesor de la Universidad de Texas en Austin y presidente del One Hundred Year Study on AI, expresa preocupación por la velocidad de los avances y el riesgo de que se produzcan sin evaluar adecuadamente las ventajas y posibles usos indebidos.
La respuesta de OpenAI y Sam Altman
Sam Altman, CEO de OpenAI, ha respondido a la carta en su cuenta de Twitter. Aunque no está de acuerdo con todos los puntos de la carta, menciona que OpenAI debería hacer un gran conjunto de datos de alineación y evaluaciones, y publicarlos.
Además, sugiere buscar un prototipo de proceso democrático para decidir a qué nos alineamos en el desarrollo de inteligencia artificial.
