Exjefe de seguridad en Anthropic alerta sobre riesgos globales en inteligencia artificial

Mrinank Sharma, quien estuvo al frente del equipo de investigación de salvaguardias en Anthropic desde su creación el año pasado, presentó su renuncia formal durante esta semana. En su carta de salida, el especialista expresó preocupaciones fundamentales sobre la seguridad global y la velocidad con la que se desarrollan los modelos de inteligencia artificial, señalando que los sistemas actuales podrían representar riesgos significativos si no se implementan protocolos de control más rigurosos.

La salida de Sharma coloca el foco de atención en el debate sobre la responsabilidad técnica dentro de las empresas tecnológicas de vanguardia. El investigador destacó que, a pesar de los esfuerzos realizados por su equipo para mitigar posibles daños, las presiones competitivas del mercado tecnológico actual dificultan la adopción de medidas de seguridad que sean realmente efectivas ante escenarios de riesgo a gran escala.

Aunque la empresa ha mantenido una postura enfocada en el desarrollo seguro de sus modelos, la renuncia de una figura central en el área de salvaguardias sugiere una fractura sobre la estrategia de mitigación de riesgos. El sector de la tecnología a nivel internacional observa de cerca cómo esta baja impactará en los estándares de seguridad que las compañías se autoimponen para evitar usos malintencionados o fallos críticos en sus sistemas.

En México, este tipo de advertencias cobran relevancia ante el creciente interés de la Secretaría de Infraestructura, Comunicaciones y Transportes y diversos organismos académicos por regular el uso de algoritmos. La necesidad de contar con marcos legales que supervisen la integridad de los sistemas de IA se vuelve una prioridad para proteger la infraestructura crítica y la seguridad de los ciudadanos frente a posibles vulnerabilidades tecnológicas de alcance global.