El investigador de la ‘startup’ de inteligencia artificial (IA) Anthropic Jacob Coxon ha presentado su dimisión al considerar que tanto esta firma como OpenAI, donde también trabajó, actúan con irresponsabilidad en el desarrollo de la IA, según ha comunicado esta semana en un mensaje en redes sociales.
Sus advertencias han encontrado respaldo dentro de la propia compañía: el responsable de Ciencia de Alineación de Anthropic, Evan Hubinger, ha señalado que son reales y ha situado en más de un 10% la probabilidad de que la IA acabe con todos los humanos en la próxima década.
Coxon acusa a Anthropic y OpenAI
El investigador define la inteligencia artificial como una tecnología que no debe ser subestimada y que podría suponer una amenaza para la humanidad. Es la idea de fondo del mensaje con el que ha anunciado su salida de Anthropic, en el que también dirige sus críticas a OpenAI.
“Hoy renuncié a Anthropic. Pasé los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic”, ha expresado Coxon en un mensaje en redes sociales.
En ese mismo texto, el investigador ha lanzado su acusación contra ambas firmas: “Ninguna de las dos empresas actúa con responsabilidad. Están avanzando a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas”.
El empleado de Anthropic ha sostenido que, dentro del sector de la IA, multitud de personas ya están siendo conscientes del elevado avance de esta tecnología y de sus peligros súbitos para el conjunto de la sociedad humana.
Pese a ello, Coxon ha advertido de que muchos ejecutivos minimizarán estos riesgos para evitar el caos.
“Quienes desarrollan la IA creen sinceramente que podría acabar con todos nosotros para finales de la década”, ha asegurado el investigador, que ha pasado los últimos tres años entre las dos compañías a las que ahora acusa de actuar sin responsabilidad.
Hubinger da la razón a Coxon
“Jacob tiene razón”. Las palabras de Coxon han tenido respuesta dentro de la propia Anthropic, donde uno de sus responsables ha respaldado públicamente el fondo de sus advertencias.
El responsable de Ciencia de Alineación en Anthropic, Evan Hubinger, ha señalado que las advertencias de Jacob Coxon son reales y que los trabajadores del sector “verdaderamente creemos que la IA podría acabar con todos los humanos”.
Más aún, Hubinger ha apuntado que la probabilidad de que esto ocurra es de más de un 10% en la próxima década.
Las declaraciones de Hubinger coinciden así con el aviso de Coxon de que quienes desarrollan la IA creen sinceramente que esta tecnología podría acabar con todos los humanos.
No obstante, Hubinger ha mantenido que en Anthropic están haciendo “todo lo posible” para evitar esta situación, aunque todavía no cuentan con un plan para “resolver el problema de la alineación para la superinteligencia y no estamos claramente encaminados hacia ello”.
El responsable de Anthropic admite así que la compañía no dispone todavía de un plan para ese reto, pese a los esfuerzos que, según defiende, está dedicando a evitar ese escenario.
Precisamente sitúa en la superinteligencia –inteligencia artificial muy por encima de la capacidad humana– el verdadero peligro, aunque, por el momento, los modelos de IA no están suficientemente desarrollados.
De este modo, Hubinger no atribuye ese riesgo a los sistemas actuales, sino a su evolución futura hacia la superinteligencia.
“Lo que me preocupa es la superinteligencia que surge de la auto-mejora recursiva, que, como hemos dicho, está ocurriendo más rápido de lo que pensábamos”, ha observado.
Una carrera por llegar primero
Según el planteamiento de Coxon, la carrera en el sector por convertirse en la firma más puntera en inteligencia artificial ha provocado que las empresas dejen atrás otras consideraciones respecto al avance de la IA.
Coxon especifica que, aunque en Anthropic tienen más en cuenta estas cuestiones que en OpenAI, ambas “están inmersas en una carrera por llegar primero”.
El investigador no exime, por tanto, a ninguna de las dos compañías en las que ha trabajado: reconoce diferencias entre ellas, pero sostiene que las dos compiten por la misma meta.
“Aceptar esta carrera y entrar en la fase final es una apuesta temeraria que no debería emprenderse desde el Slack de una empresa privada”, ha advertido.
Para el investigador, el problema no es solo la velocidad del desarrollo, sino que decisiones de este alcance se adopten en el seno de empresas privadas.
En la misma línea, Coxon ha añadido que “intentar completar la alineación a toda velocidad requiere una confianza extraordinaria en que no existen mejores trayectorias disponibles”.
Con su salida, el investigador cierra su etapa en Anthropic tras un mensaje en el que insta a no subestimar la inteligencia artificial y en el que sitúa la carrera hacia la superinteligencia en el centro de sus advertencias.
Añadir EcoAvant.com como fuente preferida de Google de forma gratuita.
Activar ahora
Comentarios