Contrôle de la migration : un chatbot d'IA de Frontex doit conseiller l'auto-expulsion

L'Agence européenne de garde-frontières et de garde-côtes (Frontex) développe une application dotée d'un chatbot basé sur l'IA, conçu pour conseiller les réfugiés sur le retour "volontaire" dans leur pays d'origine. Frontex estime que cette application ne présente pas de risque élevé au titre de l'AI Act, malgré son rôle consultatif potentiel dans les processus de migration. Cette initiative s'inscrit dans le cadre des programmes de réintégration plus larges de Frontex, qui comprennent également des incitations financières et la facilitation des retours. Le chatbot vise à informer les individus sur le soutien financier pour les départs volontaires et à fournir des informations sur les lieux où chercher une aide supplémentaire. Cette approche est une extension de la stratégie de Frontex visant à encourager les retours volontaires, une politique qui aurait connu un succès dans un pourcentage significatif de cas où des "spécialistes du retour" étaient impliqués. Les critiques soutiennent que pour les individus ayant peu d'alternatives, de tels retours "volontaires" peuvent être plus justement qualifiés d'autodéportation. La classification du niveau de risque du chatbot IA au titre de l'AI Act de l'UE est un aspect critique, car les systèmes d'IA utilisés dans les contextes de migration sont souvent désignés comme à haut risque. Le Bureau des droits fondamentaux de Frontex (FRO) a évalué la technologie et a conclu qu'elle ne répond pas aux critères de haut risque, ce qui rend inutile une évaluation supplémentaire de l'impact sur les droits fondamentaux. Cependant, les recommandations ultérieures du FRO suggèrent de corroborer théoriquement le lien entre l'augmentation de l'information et des taux de retours volontaires plus élevés.