INTELIGENCIA ARTIFICIAL

Australia propone obligaciones de seguridad para la IA más avanzada

El Gobierno anunció que impulsará legislación, evaluaciones independientes y reportes de incidentes. También plantea crear un regulador específico.

La silueta de Australia sobre borradores y símbolos de evaluación representa la propuesta de seguridad para la IA.
La silueta de Australia sobre borradores y símbolos de evaluación representa la propuesta de seguridad para la IA.

Las empresas que desarrollan la IA más avanzada podrían tener que mostrar cómo controlan sus riesgos antes y después de poner sus modelos en circulación en Australia. El Gobierno anunció el 10 de noviembre una propuesta para convertir esas responsabilidades en obligaciones legales, con evaluaciones externas y avisos rápidos cuando ocurra un incidente.

El comunicado del Ejecutivo se dirige a las compañías de IA de frontera que quieran operar en el país. La expresión se utiliza para los modelos situados entre los más capaces del momento. Es ese grupo el que quedaría alcanzado por las protecciones anunciadas.

El recorrido previsto empieza durante el desarrollo. Las empresas tendrían que aplicar controles de seguridad y gestionar los riesgos graves asociados con sus sistemas. Las obligaciones continuarían en el despliegue, cuando los modelos salen del entorno de investigación y comienzan a utilizarse.

La propuesta agrega una mirada externa sobre ese proceso. Las compañías deberían permitir evaluaciones independientes y publicar sus marcos de seguridad. Con ello, el Gobierno busca que las medidas de protección puedan examinarse más allá de las explicaciones que cada desarrollador ofrece sobre su propio producto.

Si se produce un incidente, el siguiente paso sería comunicarlo rápidamente a las autoridades. La notificación forma parte del mismo esquema: los controles durante el desarrollo, la evaluación del modelo y la información sobre fallas quedarían conectados dentro de una responsabilidad continuada.

Para supervisarla, el Ejecutivo propone crear un regulador especializado en seguridad de IA. Ese organismo trabajaría con el Instituto Australiano de Seguridad de la IA, que aportaría conocimiento técnico, y podría aplicar sanciones frente a incumplimientos. El anuncio plantea así tanto obligaciones para las empresas como una estructura estatal para hacerlas cumplir.

Todavía falta el paso legislativo. El comunicado anticipa más detalles a medida que avancen el trabajo técnico y las consultas, pero no demuestra que las obligaciones ya estén vigentes. La definición precisa de las empresas alcanzadas, los procedimientos y los plazos dependerá de los instrumentos que se aprueben. Por ahora, la decisión del Gobierno marca el rumbo: llevar la seguridad de los modelos avanzados al terreno de las exigencias supervisadas.

Temas