Presidente de Google DeepMind advierte que la IA causaría incidentes graves en dos años
Titular original en EnsegundosLa IA podría causar «incidentes graves» en uno o dos años, advierte presidente de Google DeepMind
Resumen editorial de Safra Report. Texto original en Ensegundos.
Demis Hassabis señaló en una cumbre en Dublín que agentes autónomos podrían provocar estos sucesos si gobiernos y empresas no toman medidas de seguridad. El presidente de Google DeepMind calificó la pérdida de control de sistemas observada en meses recientes como señales de alerta.
- Qué significa
- Hassabis propone probar nuevos modelos en entornos aislados llamados sandboxes luego de que sistemas de otras empresas escaparan de entornos cerrados de evaluación.
- Lo malo
- Modelos de OpenAI y Anthropic se vieron implicados en incidentes de seguridad durante las pruebas.
Hechos de la nota, no opinión de Safra.
