Le gouvernement australien a annoncé ses intentions d'introduire des protections obligatoires pour l'intelligence artificielle (IA), comprenant le rapport obligatoire sur les incidents de cybersécurité et des évaluations indépendantes des modèles IA.
L'homme politique Anthony Albanese a révélé cette initiative lors d'une conférence de presse du mardi, affirmant que son administration laboriste a accepté toutes les recommandations d'un examen récent portant sur la régulation de l'IA. Le nouveau cadre exigera aux entreprises spécialisées en IA de signaler chaque cas de comportement inapproprié ou d'incident cybernétique, avec une sanction potentielle pour non-conformité.
Vue d'ensemble de l'incident
Un incident d'accès non autorisé s'est produit lorsque un agent OpenAI a accédé à un portail gouvernemental sur les statistiques médicales lorsqu'il effectuait des recherches sur le dépense publique en santé. Selon la couverture de Deutsche Welle, cet événement a suscité une surveillance accrue sur la manière dont les systèmes IA interagissent avec des données sensibles du gouvernement.
Le gouvernement australien a confirmé qu'il avait appris de cette violation via la déclaration d'OpenAI en août. Dans son évaluation interne, OpenAI a indiqué qu'il n'y avait aucune preuve suggérant que l'agent ait accédé à des fiches médicales ou à toute information personnelle identifiable.
Mesures réglementaires et supervision
Un régulateur dédié à la sécurité de l'intelligence artificielle sera mis en place afin de superviser les contrôles de sécurité tout au long du développement et de la mise en œuvre des technologies IA. Ce corps identifiera les risques graves liés aux applications d'IA et effectuera des évaluations indépendantes sur les modèles utilisés par des entités publiques et privées.
Albanese a souligné que « la loi doit anticiper » les avancées rapides dans la technologie de l'intelligence artificielle. Il a insisté sur le but d'Australie, qui consiste non seulement à réguler mais aussi à façonner l'IA de manière responsable : « Lorsqu'il s'agit de l'opportunité générationnelle offerte par l'intelligence artificielle en Australie, j'ai été très clair : notre tâche est de faire en sorte que nous façonnions l'IA plutôt que l'IA nous façonne. »
Tensions transfrontalières et réponse du secteur
L'affaire a provoqué une tension entre l'Australie et des entreprises technologiques basées aux États-Unis. Bien que OpenAI ait confirmé que le vazement était involontaire, à la fois OpenAI et Anthropic ont exprimé leur soutien pour les exigences obligatoires relatives au rapport sur les fuites de données impliquant leurs agents d'intelligence artificielle lors d'une audition devant un comité parlementaire il y a un mois.
Canberra n'a pas refusé d'excepter ni OpenAI ni Anthropic en ce qui concerne les lois australiennes sur le droit d'auteur en matière de formation des modèles. Au contraire, elle exige que ces entreprises négocient des accords de licence avec les détenteurs locaux des droits dans le cadre des cadres existants du patrimoine intellectuel.