Anthropic CEO AI riesgos: corto, mediano y largo plazo

La buena noticia para aquellos que están preocupados es que puede dividir su incomodidad en tres categorías: riesgos de IA a corto plazo, riesgos a mediano plazo y riesgos a largo plazo. Así lo hace Dario Amodei, cofundador y CEO de Anthropic.

Amodei debería saberlo. En 2020, dejó OpenAI, el creador de ChatGPT, para cofundar Anthropic, basado en el principio de que los modelos de lenguaje grandes tienen la capacidad de volverse exponencialmente más poderosos cuanto más poder de procesamiento se les pone, y que estos modelos, por lo tanto, están diseñados en esa base debe diseñarse desde cero teniendo en cuenta la seguridad. En mayo, la empresa recaudó 450 millones de dólares en financiación.

Hablando en la conferencia Fortune Brainstorm Tech en Deer Valley, Utah, el lunes, Amodei presentó su modelo de miedo de tres pasos en respuesta a una pregunta de Jeremy Kahn de Fortune sobre los riesgos existenciales que plantea la IA. Así es como Amodei se preocupa por la IA:

• Riesgos a corto plazo: El tipo de problemas que enfrentamos hoy, “relacionados con cosas como prejuicios y desinformación”.
• Riesgos a medio plazo: "Creo que en unos años, si los modelos mejoran en cosas como la ciencia, la ingeniería y la biología, puedes hacer cosas muy malas con los modelos que no podrías haber hecho sin ellos".
• Riesgos a largo plazo: "Si estamos tratando con modelos que tienen la propiedad clave de la agencia, lo que significa que no solo pueden generar texto sino hacer cosas, ya sea con un robot o en Internet, entonces creo que tenemos algo de qué preocuparnos .” .” Se vuelven demasiado autónomos y es difícil detener o controlar lo que están haciendo. Y creo que al final de eso hay preocupaciones de riesgo existencial”.

Los modelos de lenguaje grande son increíblemente versátiles. Se pueden usar en una variedad de aplicaciones y escenarios: "la mayoría de ellos son buenos". Pero hay algunos peligros que acechan y debemos encontrarlos y prevenirlos", dijo Amodei.

No deberíamos "enojarnos" por el escenario de riesgo existencial a largo plazo, aconsejó. "No sucederán mañana, pero a medida que continuamos con el desarrollo exponencial de la IA, debemos entender que estos riesgos se encuentran al final de esta dinámica exponencial".

Pero cuando Kahn le preguntó si en última instancia era optimista o pesimista acerca de la IA, el CEO de Anthropic dio una respuesta ambivalente que será tranquilizadora o aterradora, dependiendo de si eres un tipo medio lleno o medio vacío: "Yo espera que vaya muy bien. Pero existe un riesgo, tal vez del 10 o 20%, de que salga mal y es nuestro trabajo asegurarnos de que eso no suceda”.