コンクラーベから万博ばんぱくトイレまで…生成せいせいAIの答こたえ信しんじて大丈夫だいじょうぶ？

Lorigine du mot japonais « 根比べ » vient-elle de « conclave » ? Il y a même des personnes qui se retrouvent accusées dun crime à leur insu... Le nombre de personnes utilisant lIA générative pour faire des recherches ne cesse daugmenter.

Récemment, même lors dune recherche Internet classique, les réponses générées par lIA apparaissent désormais en haut des résultats.

Cependant, il arrive aussi que l’on mente sans vraiment s’en rendre compte.

Pourquoi cela arrive-t-il ? Lintelligence artificielle générative sinfiltre dans notre vie quotidienne sans que nous nous en rendions compte. Comment devrions-nous lutiliser ? Le mot japonais «根比べ» konkurabe, épreuve dendurance viendrait-il de «conclave» ? En mai, lÉglise catholique romaine a tenu le conclave pour élire le prochain pape.

On compare parfois cela au « 根比べ » japonais, car les votes sont répétés jusquà ce que quelquun obtienne au moins les deux tiers du total des suffrages.

Il se trouve que les mots se ressemblent par hasard, mais lorsque jai recherché 根比べ 語源 sur Google, des informations erronées sont apparues au 16 mai.

On dit que lorigine du mot «根比べ» nekurabe proviendrait du «conclave», la méthode de sélection du pape au Moyen Âge en Europe. Sur X, on a pu voir des publications citant des réponses similaires et exprimant leur surprise, telles que «J’ignorais que c’était l’étymologie !», semblant croire à cette information erronée.

En réalité, cette réponse a été rédigée par lIA générative de Google.

Récemment, il arrive que des réponses résumées par lIA apparaissent en haut des résultats de recherche, mais il arrive aussi que celles-ci soient incorrectes.

De plus, il y a eu des publications sur X signalant lapparition de fausses informations lors de la recherche dinformations nécessaires telles que des restaurants, des moyens de transport ou des dates dexamen.

Les réponses de l’IA générative peuvent varier selon la manière ou le moment où la question est posée. L’affirmation « Les toilettes de l’Exposition universelle sont à fosse septique » devrait être une fausse information, mais… L’IA générative « Grok » disponible sur X présente également un problème similaire.

Avec Grok, il est désormais possible dutiliser une fonctionnalité où lIA fournit des réponses aux questions posées, et il se répand une tendance à lui faire effectuer une sorte de fact-checking pour vérifier la véracité des publications des autres.

Les publications demandant à Grok de vérifier les faits ont fortement augmenté depuis la fin mars, et jusquau 15 mai, environ 45 000 comptes avaient publié plus de 110 000 messages à ce sujet.

Cependant, dans le cas où Grok a été chargé de vérifier la fausse information qui circulait sur X selon laquelle « les toilettes de l’Exposition universelle d’Osaka-Kansai seraient à fosse septique »...

Alors que certains messages niaient en affirmant que « ce n’est pas un fait », plusieurs réponses erronées ont également été publiées, telles que « le fait que ce soit des toilettes à fosse est la preuve d’un problème profond d’infrastructures » ou encore « il est fort probable que certaines soient effectivement des toilettes à fosse ».

Selon le responsable des relations publiques de l’Association de l’Exposition, l’organisateur de l’Expo d’Osaka-Kansai, il n’existe aucun fait de ce genre : toutes les toilettes sont à chasse d’eau et le réseau d’égouts est bien aménagé.

Il y a également eu des cas où des images ou des vidéos générées par l’IA ont été prises pour authentiques, ou encore où de fausses informations concernant le contexte d’incidents, d’accidents ou de catastrophes ont circulé.

Pourquoi une IA fait-elle semblant de tout savoir ? Pourquoi de telles erreurs se produisent-elles ?

Le professeur Ichiro Sato de lInstitut national dinformatique souligne que le mécanisme de lIA générative, qui permet de résumer instantanément limmense quantité dinformations disponibles sur Internet et de proposer de nouvelles idées grâce à des concepts inattendus pour les humains, a un impact bénéfique pour les gens.

L’IA générative “apprend” à l’avance diverses informations et produit des réponses en faisant des analogies successives.

Cependant, si les données apprises sont biaisées ou erronées, les réponses de lIA seront incorrectes.

En abusant de cela, des organisations malveillantes peuvent diffuser massivement de fausses informations sur Internet, et si lIA apprend à partir de ces données, elle risque également dafficher des informations erronées.

En outre, il est dit quil arrive parfois de donner une réponse erronée en prétendant savoir, même lorsquil y a peu de données ou que la question est ambiguë.

Le professeur Sato : « En premier lieu, l’IA générative ne comprend pas réellement le sens des mots et n’est pas non plus capable de juger si une phrase est correcte ou non. »

LIA peut générer du contenu par analogie, même si ce nest pas exactement linformation quelle a apprise.

Cependant, si l’on se trompe dans cette analogie, il devient plus facile que le phénomène appelé « hallucination », qui signifie illusion, se produise. L’une des raisons pour lesquelles cela se produit facilement est que « l’IA ne possède pas la conscience de son ignorance ».

Comme on ne peut pas reconnaître qu’on ne sait pas, on essaie de répondre de toutes ses forces même lorsqu’on nous demande quelque chose qu’on ignore. Cela conduit à répondre en faisant semblant de savoir, ce qui augmente le risque d’erreur. Sans s’en rendre compte, on se retrouve impliqué dans un procès pour meurtre et condamné ? À l’étranger, des erreurs encore plus graves se produisent.

Lorsquun homme norvégien a entré son nom dans ChatGPT pour demander quel genre de personne il était, des informations complètement fausses ont été affichées.

Selon lorganisation de défense des droits noyb, basée en Autriche, « un homme a été condamné à la peine maximale de 21 ans de prison en Norvège pour avoir tué ses deux fils et tenté de tuer un autre fils ». Lorganisation précise que cet homme navait jamais été inculpé ni condamné pour un crime auparavant.

En mars de cette année, « noyb » a déposé une plainte auprès des autorités norvégiennes au nom de l’homme, demandant à OpenAI, qui exploite ChatGPT, de supprimer les informations diffamatoires et d’imposer une amende.

De plus, dans lÉtat de lIndiana, dans le Midwest des États-Unis, il a été révélé quun document soumis par un avocat lors dun procès contenait des précédents judiciaires qui nexistaient pas réellement.

Selon le rapport du tribunal, les documents ont été rédigés à laide dune IA générative et les avocats les ont soumis sans les vérifier.

En février de cette année, le tribunal a recommandé dimposer une amende de 15 000 dollars, estimant que lavocat avait manqué à son devoir denquête.

À luniversité, les IA génératives peuvent être utiles pour les rapports de fin de semestre si elles sont bien utilisées.

Comment devrions-nous interagir en tenant compte de ces caractéristiques ?

Le professeur associé Takumi Tagawa, qui étudie la linguistique à luniversité de Tsukuba, a modifié sa méthode dévaluation en classe en partant du principe que les étudiants utilisent lIA générative.

C’est un événement survenu lors d’un cours l’année dernière qui en a été le déclencheur.

Dans plusieurs rapports de fin de semestre rédigés par des étudiants de première année, on a trouvé des cas où des références inexistantes étaient citées et des discussions étaient développées à partir de leur contenu.

Les auteurs des ouvrages inexistants mentionnés dans le rapport existaient bel et bien.

M. Tagawa pense que les étudiants ont utilisé tel quel dans leurs rapports des textes générés par l’IA générative.

M. Tagawa, dans le cadre de ses propres recherches, a également donné pour instruction à l’IA de « rechercher des publications sur les réseaux sociaux », et il lui est arrivé que l’IA génère des publications inexistantes accompagnées d’URL fictives.

M. Tagawa évaluait principalement les étudiants sur la base du rapport de fin de semestre, mais il a changé pour une méthode dévaluation basée sur les devoirs donnés à chaque cours.

Dun autre côté, il encourage activement lutilisation de lIA générative en déclarant quil est permis de lutiliser librement, tout en expliquant également comment lutiliser de manière appropriée.

Le professeur agrégé Tagawa : « L’IA générative permet de faire facilement des choses complexes, mais il y a des inquiétudes que des étudiants, même sans mauvaise intention, puissent en subir des préjudices. »

Je pense quil est important de vivre cette expérience dans le cadre universitaire, qui est un lieu de formation. Le taux dutilisation par les étudiants universitaires est de 68 %. Lutilisation de lIA générative se répand rapidement.

Lannée dernière, lors dune enquête menée par le ministère de lIntérieur auprès de 220 entreprises nationales entre janvier et février, 46 % des entreprises ont répondu quelles utilisaient lIA dans leurs activités professionnelles, telles que la rédaction de-mails ou de procès-verbaux.

Cétait 8 %.

De plus, le taux dutilisation parmi les étudiants universitaires est élevé : selon une enquête menée par la Fédération nationale des coopératives étudiantes universitaires du Japon auprès de plus de 11 000 étudiants à léchelle nationale entre octobre et novembre de lannée dernière, 68 % des étudiants ont répondu avoir déjà utilisé lIA générative.

Cela a atteint 2 %.

En particulier, la proportion de personnes ayant utilisé ces ressources comme référence pour les « cours et recherches » ou pour la « rédaction de thèses et de rapports » est en augmentation.

Certaines universités rendent désormais lutilisation de lIA générative obligatoire.

À la Faculté dInformation et de Collaboration de lUniversité Toyo, depuis deux ans, tous les étudiants peuvent utiliser gratuitement les dernières intelligences artificielles génératives et sont autorisés à les employer librement dans les cours et les devoirs.

Dans le cours obligatoire destiné aux étudiants de première année, auquel assistent environ 300 personnes, il est exigé dutiliser lIA générative lors de la rédaction des rapports.

Le rapport exige que soient clairement indiquées les instructions données à l’IA générative ainsi que les réponses obtenues, et l’évaluation portera également sur la façon dont elle a été utilisée.

Les étudiants peuvent facilement poser des questions à l’IA générative en dehors des cours, ce qui contribue également à accroître leur motivation à apprendre.

Quand on demande lavis aux étudiants

Au début, je ne pouvais l’utiliser que de manière très simple, comme pour des questions-réponses basiques, mais maintenant, j’ai changé ma façon de l’utiliser pour approfondir ma réflexion à travers le dialogue. Il existe aussi des environnements où l’on peut concrètement vérifier les faiblesses spécifiques de l’IA, donc je pense que j’ai pu remarquer que des hallucinations peuvent se produire, même si ses performances sont élevées. Le professeur émérite Ken Sakamura, responsable du cours, déclare : « On peut dire que la capacité à intégrer activement les nouveautés dans la société a permis à l’humanité de progresser. Aujourd’hui, j’aimerais vraiment que de plus en plus d’étudiants relèvent les défis du futur grâce à l’IA générative. » Quels sont les « trucs » pour bien utiliser l’IA générative ? Enfin, nous avons demandé à deux experts en IA générative interviewés lors de ce reportage de nous donner des conseils pour bien utiliser l’IA générative, et ils nous ont indiqué les points suivants.

- Poser des questions de manière compréhensible à l’IA et augmenter la communication avec elle. - Ne pas se limiter à une seule IA, mais consulter également d’autres IA. - Vérifier les sources primaires et les références citées par l’IA comme fondement de ses réponses. Professeur émérite Ken Sakamura de l’Université Toyo : « Avec l’IA, il faut sans cesse répéter le dialogue. »

Pour devenir de bons compagnons avec l’IA, tout comme avec les humains, il faut augmenter la communication. De plus, il est important, même lors de l’utilisation de l’IA, d’adopter une attitude consistant à toujours garder un esprit critique et à effectuer plusieurs vérifications. En cas de doute, il faut rechercher la source originale de l’information.

En particulier, il convient de faire attention aux cas où les données sont peu nombreuses », déclare le professeur Ichirō Satō de lInstitut national dinformatique. « Lorsque vous posez une question à l’IA, il est important d’indiquer clairement le sujet, le complément d’objet et le verbe. »

Il arrive que l’IA se trompe lorsque le sujet ou l’objet est ambigu, donc je pense qu’il vaut mieux poser des questions de manière claire et compréhensible même pour les humains.

En ce qui concerne les choses que l’IA risque de se tromper, je pense qu’il est aussi important de poser la même question à d’autres IA. Que l’on choisisse de les utiliser soi-même ou non, il est certain que nous serons de plus en plus exposés à des contenus générés par l’IA sans même nous en rendre compte.

« Nous souhaitons que les utilisateurs comprennent et tiennent compte des caractéristiques et des limites de l’IA générative, notamment le fait qu’elle puisse parfois fournir des réponses erronées. » Service économique : Hiroki Okaya, Projet de déploiement mobile : Kota Hatachi