Dario Amodei, CEO de Anthropic: “Entiendo las ventajas de la IA, pero no se están comprendiendo los riesgos”

Dario Amodei es una de las figuras clave en el sector de la inteligencia artificial. Es el CEO de Anthropic, y antes de eso, trabajó en OpenAI. El doctor en biofísica, de hecho, abandonó la compañía de Sam Altman por no estar de acuerdo con el rumbo que estaba trazando la famosa firma de IA, y decidió fundar la suya propia, cuyo principal producto es Claude. Amodei de manera constante ha sido fiel a sus principios, y de manera constante se ha sincerado sobre los beneficios y riesgos de la IA. en el contexto actual, ha vuelto a compartir sus opiniones en una entrevista en el canal de Youtube People by WTF.

El CEO y cofundador de Anthropic asegura que la inteligencia artificial está a punto de provocar un cambio histórico comparable al de una revolución industrial y que, efectivamente, va a ser capaz de transformar el trabajo, la economía y la sociedad. Es algo que desde un principio, sabía que OpenAI no iba a hacerlo bien.

“Mi convicción es que si estos modelos van a ser agentes cognitivos generales, herramientas cognitivas generales que igualan la capacidad del cerebro humano, más nos vale hacerlo bien. Porque las implicaciones económicas van a ser enormes, las implicaciones geopolíticas van a ser enormes, las implicaciones en materia de seguridad van a ser enormes. Va a transformar el funcionamiento del mundo. Por eso tenemos que hacerlo bien”, subraya Amodei. Dice, además, que “no tenía la percepción de que en OpenAI existiera una convicción real y seria al respecto”.

La IA tiene beneficios, pero también riesgos

En paralelo, el CEO de Anthropic también explica que desde de manera constante ha tenido claro “tanto el lado positivo como el negativo” de la inteligencia artificial. Que tiene múltiples beneficios, pero también inconvenientes, y que de manera constante ha sido muy claro respecto a esto. “Quería inspirar a la gente con una visión positiva, pero también quería advertirles de lo que puede salir mal”.

Menciona que le ha sorprendido lo que hemos podido descubrir gracias a la IA y dice estar “animado” por lo que están logrando algunos trabajadores en el ámbito de la inteligencia artificial, sobre todo a la hora de “garantizan que los modelos se comporten de la manera que queremos y esperamos”, afirma el CEO de Anthropic.

No obstante, Amodei dice estar también sorprendido por el hecho de que la IA esté avanzando tanto que incluso sea capaz de llegar al nivel de la inteligencia humana, y “no parezca haber un reconocimiento más amplio en la sociedad de lo que está a punto de suceder”. “La gente lo que ve no es un tsunami, sino solo es un efecto óptico. Además, no ha habido una concienciación pública sobre los riesgos y, por tanto, los gobiernos no han tomado medidas para abordarlos. Entiendo las ventajas de la tecnología, pero creo que no se han comprendido adecuadamente los riesgos y, desde luego, no se han tomado medidas”, destaca.

Pese a la mención de los riesgos, Amodei no deja clara su postura u opinión sobre cómo controlarlos. Menciona, sin embargo, que “el trabajo técnico para controlar ha ido mejor de lo que esperaba”, pero aún falta mucha conciencia social.