¿Quién es Darío Amodei? - MBA de cuatro semanas

Dario Amodei es un investigador y empresario de inteligencia artificial ítalo-estadounidense que ha estado asociado de diversas formas con empresas como OpenAI, Google Brain y Anthropic. Vamos a contar algo de su historia a continuación.

carrera temprana

Amodei obtuvo un Ph.D. de la Universidad de Princeton en 2011 por su trabajo sobre circuitos neuronales y dispositivos novedosos para el registro intracelular y extracelular.

Luego se unió a Skyline como ingeniero de software a tiempo parcial, trabajando en un conjunto integral de software utilizado por investigadores que estudian proteínas.

Amodei también realizó una investigación posdoctoral en la Universidad de Medicina de Stanford, donde desarrolló nuevos métodos de espectrometría de masas para el modelado de redes de proteínas y el descubrimiento de biomarcadores.

En su página de perfil de LinkedIn, Amodei declaró que escribió 14.000 líneas de código para el software y más de 50 páginas de tutoriales y documentos.

Baidu y Google

Amodei se unió a Baidu en noviembre de 2014.

Allí trabajó con un pequeño equipo de científicos e ingenieros de sistemas de inteligencia artificial que incluía al cofundador y científico jefe de Google Brain, Andrew Ng.

El equipo trabajó en problemas difíciles en las áreas de inteligencia artificial y aprendizaje profundo, y Amodei pasó la mayor parte de su tiempo en la serie Deep Speech 2 de modelos de reconocimiento de voz.

Uno de los principales proyectos en los que trabajó Amodei fue Deep Speech 2, un enfoque de aprendizaje profundo de extremo a extremo que reconoció los idiomas muy diferentes del inglés y el chino mandarín.

Las redes neuronales se usaron para manejar las dificultades del idioma, como entornos ruidosos y acentos, y en algunos casos el resultado del sistema resultante fue comparable a la transcripción proporcionada por trabajadores humanos.

Amodei también diseñó, creó prototipos e implementó arquitecturas de redes neuronales que lograron reducciones significativas en la tasa de error de palabras (WER) en los sistemas de idioma inglés y chino de su laboratorio.

Después de unos 12 meses, dejó Baidu y se convirtió en investigador de aprendizaje profundo en el equipo de Google Brain. Allí trabajó en la expansión de las capacidades de las redes neuronales y escribió varios artículos sobre la seguridad de los sistemas de IA y la prevención de accidentes.

IA abierta

Amodei luego se unió a OpenAI en julio de 2016, donde lideró el equipo de seguridad de IA. En una entrevista con Robert Wilbin de la organización sin fines de lucro 80000 Hours con sede en Londres, Amodei explicó sus razones para unirse a la empresa:

"Pensé que había un montón de investigadores realmente talentosos aquí, y que era un buen ambiente para pensar en la seguridad en el contexto de la investigación de IA que ya se ha hecho".

Aunque nunca antes había trabajado en una startup, Amodei estaba entusiasmado por ampliar los límites en la industria de la IA e ir más allá del enfoque exclusivo en el aprendizaje automático supervisado.

Luego se convirtió en Director de Investigación en septiembre de 2018 y Vicepresidente de Investigación poco más de un año después.

Como vicepresidente, Amodei dirigió el equipo responsable de construir el GPT-2 y el GPT-3.

Cooperación con DeepMind

En 2017, DeepMind anunció que colaboraba con Dario Amodei, Paul Christiano y Tom Brown en OpenAI.

La colaboración fue parte de los esfuerzos de DeepMind para reunir diversas voces en la comunidad de inteligencia artificial y promover resultados positivos de IA para las personas y la sociedad.

Con ese fin, los esfuerzos de Amodei se centraron en cómo los humanos pueden decirle a un sistema qué hacer y, quizás lo que es más importante, qué no hacer.

En esencia, Amodei y sus colaboradores se dieron cuenta de que la seguridad de la IA podría aumentar si se evitara la necesidad de que los humanos escriban funciones objetivas.

De lo contrario, los proxies simples para objetivos complejos, o incluso objetivos complejos que estaban ligeramente equivocados, podrían generar un comportamiento de modelo peligroso o indeseable.

El resultado final fue un algoritmo de aprendizaje que resuelve entornos RL modernos con poca retroalimentación humana. La colaboración entre DeepMind y OpenAI también ha escalado el enfoque, haciéndolo útil para tareas más complicadas.

antrópico

Amodei dejó OpenAI en diciembre de 2020 para fundar la startup de IA Anthropic. El equipo fundador estaba formado por varios miembros de KI de alto rango, así como por la hermana de Amodei, Daniela.

Anthropic se fundó con la misión de garantizar que la IA no represente una amenaza existencial para la humanidad en el futuro.

El Financial Times también informó que Amodei y otros 14 investigadores abandonaron OpenAI debido a preocupaciones sobre a dónde iría después de la inversión de $ 1 mil millones de Microsoft en 2019.

Específicamente, Amodei creía que la inversión significaba que el desarrollo de OpenAI estaba más centrado en la empresa y menos enfocado en la democratización de la IA. Para salvar a Anthropic de un destino similar, registró a Anthropic como una corporación sin fines de lucro, una corporación con fines de lucro legalmente obligada a equilibrar las ganancias con el bien público y social.

Dirección futura de Anthropic

En abril de 2023, TechCrunch informó que Anthropic planeaba recaudar hasta $ 5 mil millones en los próximos dos años. Según documentos internos de la empresa, el capital se utilizaría para expandirse a una docena de industrias clave y competir mejor con su competidor OpenAI.

El movimiento está respaldado por el llamado "modelo de frontera" que Amodei y su equipo han llamado Claude-Next. Se dice que el modelo es 10 veces más poderoso que sus competidores, pero aun así requerirá una inversión de mil millones de dólares durante los próximos 18 meses.

Anthropic describe a Claude-Next como "Algoritmo de próxima generación para el autoaprendizaje de IA' basado en su técnica constitucional de entrenamiento de IA.

Esta técnica intenta reconciliar la inteligencia artificial y la intención humana con sistemas que responden a preguntas y realizan tareas de acuerdo con un conjunto simple de pautas.

Pitch deck de la serie C

En un pitch deck filtrado para la ronda de financiación de la Serie C, Amodei reveló que, a pesar de sus preocupaciones anteriores sobre la comercialización, este era exactamente el camino que tomaría Anthropic:

"Anthropic ha tenido un fuerte enfoque en la investigación durante el primer año y medio de su existencia, pero estábamos convencidos de la necesidad de la comercialización, a la que nos comprometimos completamente en septiembre. [2022].”

El pitch deck también explicó que Anthropic había desarrollado una especialización inicial del producto y una estrategia de lanzamiento al mercado coherente con la marca y la experiencia de la empresa.

Las tesis centrales:

Dario Amodei es un investigador y empresario de inteligencia artificial ítalo-estadounidense que ha estado asociado de diversas formas con empresas como OpenAI, Google Brain y Anthropic.
Amodei se unió a Baidu en 2014 y trabajó con un pequeño equipo de científicos e ingenieros de sistemas de inteligencia artificial que incluía a Andrew Ng, cofundador y científico jefe de Google Brain. Luego dejó Baidu y se convirtió en investigador de aprendizaje profundo en el equipo de Google Brain con un enfoque particular en la seguridad de la IA.
Después de casi cinco años como vicepresidente de investigación en OpenAI, Amodei fundó la corporación sin fines de lucro Anthropic porque temía que OpenAI se hubiera vuelto demasiado comercial. Anthropic se fundó con la misión de garantizar que la IA no represente una amenaza existencial para la humanidad en el futuro.

Continuar leyendo: Historia de OpenAI, Modelos de negocio de IA, AI Negocio.