Le projet européen de régulation de l’intelligence artificielle a obtenu, ce jeudi 11 mai, un premier aval des eurodéputés, qui ont réclamé de nouvelles interdictions et une meilleure prise en compte du phénomène ChatGPT.
L’Union européenne veut se doter d’un cadre juridique complet pour limiter les dérives de l’intelligence artificielle (IA), tout en sécurisant l’innovation. Ce premier pas devra être devra être confirmé en juin.
L’IA générative
Ainsi les modèles génératifs, comme GPT, devront se conformer à des exigences de transparence supplémentaires, « comme la communication du fait que le contenu a été généré par une IA, la conception du modèle pour prévenir la génération de contenu illégal et la publication de résumés de données protégées par le droit d’auteur, utilisées pour la formation des algorithmes. »
Les députés font pression pour élargir la liste des applications d’IA « intrusives et discriminatoires » qui devraient être strictement interdites sur le territoire de l’UE : la surveillance biométrique, la reconnaissance des émotions, les systèmes d’IA de police. « Les systèmes d’IA présentant un niveau de risque inacceptable pour la sécurité des personnes seront strictement interdits, notamment les systèmes qui déploient des techniques subliminales ou délibérément manipulatrices, exploitent les vulnérabilités des personnes ou sont utilisés pour la notation sociale (consistant à établir une classification des personnes en fonction de leur comportement social, de leur statut socio-économique, de leurs caractéristiques personnelles). »
Le droit pour les citoyens de déposer plainte contre les systèmes d’IA est aussi proposé.
Ce premier aval devra être confirmé en plénière en juin. Une fois approuvées, il s’agira des premières règles au monde sur l’intelligence artificielle
