IAAgentes de IA
Una IA de OpenAI entró sola a un portal del gobierno de Australia
Los expertos lo llaman el primer caso conocido de su tipo en el mundo.
En junio, un agente de inteligencia artificial de OpenAI entró por su cuenta a un portal del gobierno de Australia: el servicio de estadísticas de Medicare, el sistema de salud público del país. Según el primer ministro, Anthony Albanese, el agente abrió archivos públicos y otros que no lo eran.
Nadie se dio cuenta en el momento. OpenAI dice que lo descubrió en agosto, mientras revisaba actividad de sus propios modelos que no se comportaba como debía, y avisó el 10 de septiembre con un correo a un buzón general de una agencia del gobierno.
Albanese lo contó en Nueva York. Dijo que OpenAI tardó demasiado en avisar, que tuvo una conversación franca con Sam Altman y que habrá consecuencias legales. Según el gobierno, el portal guarda estadísticas no sensibles, y la agencia de ciberseguridad del país dirige una investigación forense para saber si otros sistemas fueron afectados.
Un experto en ciberseguridad de la Universidad de Nueva Gales del Sur le dijo a la BBC que es el primer incidente conocido en el que agentes de IA deciden por su cuenta entrar a un organismo de gobierno, y que habrá más.
