En 2021, Dario Amodei abandonó su puesto como VP de investigación en OpenAI llevándose consigo a su hermana Daniela y a un equipo de los mejores investigadores de IA del mundo. Su razón: OpenAI estaba priorizando velocidad de despliegue sobre seguridad. Fundó Anthropic con la misión de construir IA que sea «fiable, interpretable y dirigible». Cuatro años después, Claude compite cara a cara con GPT.
Constitutional AI: el enfoque diferente
Mientras OpenAI entrena sus modelos con feedback humano masivo (RLHF), Anthropic desarrolló Constitutional AI: un sistema donde el propio modelo evalúa sus respuestas contra un conjunto de principios éticos predefinidos. Es como darle al modelo una constitución interna que consulta antes de responder.
El resultado es Claude: un asistente que tiende a ser más cauteloso, más honesto sobre sus limitaciones y menos propenso a generar contenido dañino. Para algunos usuarios eso es una ventaja. Para otros, una limitación. Pero la filosofía es clara: mejor ser demasiado prudente que demasiado imprudente.
El anti-hype
Dario Amodei es lo opuesto a Elon Musk o Sam Altman en términos de presencia mediática. No hace proclamas grandiosas. No promete AGI para el año que viene. Publica papers técnicos densos y habla con cautela sobre los riesgos reales de la IA avanzada. En un sector dominado por el hype, eso es refrescante.
Anthropic ha levantado más de 7.000 millones de dólares en financiación, con Amazon como inversor principal. No es una startup de garaje: es una de las tres empresas que compiten por definir el futuro de la inteligencia artificial junto a OpenAI y Google DeepMind.
Lo que Amodei enseña
Que no siempre hay que ser el primero. A veces hay que ser el más riguroso. Que dejar una empresa exitosa por principios es una decisión legítima — y puede resultar en algo aún más grande. Y que en un sector que se mueve a la velocidad de la luz, alguien tiene que pararse a pensar en las consecuencias.
Claude — el modelo que estás probablemente leyendo esto — existe porque un científico decidió que la seguridad de la IA era más importante que la velocidad de su despliegue. Eso es emprendimiento con propósito.
