Silicon Valley enfrenta críticas por desestimar advertencias sobre los riesgos de la inteligencia artificial

La renuncia de Jacob Coxon y sus alarmantes afirmaciones

Cada septiembre, el Palace Hotel de San Francisco se convierte en el punto de encuentro de destacados ejecutivos de Silicon Valley que buscan captar la atención de los inversores en una conferencia organizada por Goldman Sachs. Esta semana, el evento se vio marcado por la renuncia de Jacob Coxon, un joven investigador de 27 años que había trabajado en OpenAI antes de unirse a Anthropic. Coxon advirtió que quienes desarrollan la IA creen que esta tecnología podría amenazar la existencia humana, afirmando que "pronto los sistemas sobrehumanos serán capaces de piratear cualquier cosa".

Coxon no es el primer experto en IA en expresar preocupaciones sobre su desarrollo. En los últimos años, varias dimisiones de alto perfil en Anthropic y OpenAI han puesto de manifiesto problemas de seguridad en torno a la IA. Además, algunos empleados actuales de Anthropic respaldaron las afirmaciones de Coxon. Evan Hubinger, líder de un equipo en Anthropic, manifestó en redes sociales su convicción de que la IA podría poner en riesgo la humanidad en más del 10% de los casos en la próxima década.

Reacciones de la industria ante las advertencias

A pesar de las alarmantes declaraciones de Coxon, muchos ejecutivos e inversores en Silicon Valley han mostrado escepticismo ante la reciente ola de advertencias sobre los peligros de la IA. Se informa que Anthropic y OpenAI están en proceso de prepararse para ofertas públicas iniciales que podrían establecer nuevos récords, lo que ha llevado a algunos a especular que las advertencias podrían estar orientadas a influir en los mercados y resaltar el poder de sus productos.

Dario Amodei, director de Anthropic, ha sido criticado por sus afirmaciones sobre el impacto de la IA en el empleo, sugiriendo que podría eliminar la mitad de los puestos de trabajo de nivel básico. George Arison, CEO de Grindr, calificó las opiniones de Coxon como "peligrosas" y decidió instruir a su equipo para que dejara de utilizar la tecnología de Anthropic. La empresa, que fue valorada en 965.000 millones de dólares en su última ronda de financiación, no ha respondido a las críticas planteadas.

Fuente original: BBC Mundo.