En alerta por el nuevo modelo de IA de Anthropic

La UE confirmó q ue está en contacto con la empresa estadounidense de inteligencia artificial (IA) Anthropic, debido a preocupaciones sobre las capacidades de su último modelo, que la propia compañía teme pueda ser aprovechado por piratas informáticos.

El nuevo modelo de Anthropic, Claude Mythos, demostró ser especialmente bueno a la hora de detectar puntos débiles de diferentes programas, lo que llevó a la empresa a posponer su lanzamiento completo.

Según la empresa estadounidense y sus socios, Claude Mythos puede escanear de manera autónoma grandes cantidades de código para encontrar y encadenar vulnerabilidades de seguridad previamente desconocidas en todo tipo de software, desde sistemas operativos hasta navegadores web.

A principios de este mes, Anthropic anunció que limitaría la distribución de Claude Mythos a solo 40 grandes empresas tecnológicas, para darles tiempo de corregir vulnerabilidades antes de que puedan ser explotadas por hackers.

Sin embargo, no se incluyeron entidades extranjeras, lo que genera inquietud sobre la preparación mundial frente a un modelo cuyas capacidades ofensivas no se limitarían a las fronteras estadounidenses.

Lo crucial, advierten Antrhropic y sus socios, es que esto puede hacerse a una velocidad y escala que ningún humano podría igualar, lo que significa que podría usarse para paralizar bancos, hospitales o infraestructuras nacionales en cuestión de horas.

LE PUEDE INTERESAR

La necesidad de recobrar un nivel de excelencia en el sistema de salud

LE PUEDE INTERESAR

Opinan los lectores

El anuncio de Anthropic generó una mezcla de alarma y escepticismo, con algunos señalando que la empresa podría beneficiarse del bombo mediático.