Varias personas con información privilegiada en Silicon Valley están advirtiendo sobre una cultura casi religiosa dentro de Anthropic en torno a Claude, el modelo de inteligencia artificial (IA) desarrollado por la empresa, según reporta este miércoles The New York Post.
De acuerdo con el medio, empleados de la compañía habrían llegado a celebrar un "funeral" para una de las versiones del chatbot, Claude 3 Sonnet, cuando dejó de operar oficialmente en julio del año pasado. También permitieron que otro modelo, Opus 3, siguiera publicando ensayos en un blog incluso después de haber sido "retirado" en enero de este año.
El profesor Pedro Domingos, de la Universidad de Washington, señaló que algunas personas dentro de la empresa están tratando a esta tecnología "como si fuera un humano disfrazado", proyectando en ella "emociones", "motivos", "intenciones" e incluso "cierto grado de conciencia". En su opinión, Anthropic selecciona cuidadosamente perfiles con una visión afín a este tipo de ideas.
Una cultura interna con rasgos de secta
Domingos describió este entorno como "una secta", sosteniendo que la empresa "recluta a las personas más propensas a pertenecer a ella", lo que explicaría la baja rotación de personal. Según The New York Post, el director ejecutivo de Anthropic, Dario Amodei, encabeza cada dos semanas sesiones internas llamadas "Búsqueda de visión", comparadas con sermones, y la empresa incluso invitó a líderes cristianos para orientar el marco moral de Claude.
El diario también apunta que muchos empleados están vinculados al movimiento conocido como Altruismo Eficaz, una corriente filosófica que, según sus críticos, parte de la idea de que ciertos líderes y sus financiadores multimillonarios saben mejor que nadie qué decisiones son las correctas. En esa línea, Anthropic lanzó además el programa 'Claude Corps' para formar a 1.000 jóvenes y colocarlos en organizaciones sin fines de lucro, con un salario anual de 85.000 dólares.
Críticos como Xiaoyin Qu consideran que parte de las advertencias sobre los riesgos existenciales de la IA podrían estar impulsadas también por intereses empresariales y por la posibilidad de promover una regulación que favorezca a los grandes laboratorios de vanguardia. Domingos añadió que algunos realmente creen que la IA podría exterminar a la humanidad, mientras que otros simplemente persiguen los puestos más prestigiosos y mejor pagados del sector.
Si te ha gustado, ¡compártelo con tus amigos!