ACTUALITÉS RÉGIONALES
Les bots comme ChatGPT ne sont pas sensibles. Pourquoi insistons-nous pour qu’ils paraissent tels qu’ils sont ?
Étincelle54:00ChatGPT et l’avenir de l’IA
Quelle est la différence entre un esprit humain sensible et un programme informatique qui réussit très bien à en imiter la sortie ?
Pendant des années, cela a été une question centrale pour beaucoup de ceux qui étudient l’intelligence artificielle (IA), ou le fonctionnement interne du cerveau. Mais avec l’ascension fulgurante du ChatGPT d’OpenAI – un grand modèle de langage (LLM) qui peut générer des réponses convaincantes et détaillées aux demandes en langage naturel – une question autrefois abstraite et hypothétique est soudainement devenue très réelle.
« Ils semblent être des outils qui sont ontologiquement ambigus », a déclaré Jill Fellows, professeur de philosophie au Douglas College, spécialisé en philosophie de la technologie et de l’IA.
« Nous ne savons pas nécessairement comment les placer », a-t-elle déclaré. « D’une part, nous le traitons comme un outil vers lequel nous pouvons décharger du travail. Mais d’autre part, à cause de cette ambiguïté ontologique, nous le traitons aussi en quelque sorte comme un agent autonome. »
Et si ces outils vont jouer un rôle aussi important dans notre avenir que leurs créateurs voudraient nous le faire croire, c’est une ambiguïté que des penseurs comme Fellows disent qu’il pourrait être important de résoudre le plus tôt possible.
Pendant des décennies, le test de Turing a été l’étalon-or de l’intelligence artificielle – créant un programme capable de convaincre un humain qu’il parle à un autre humain. ChatGPT peut maintenant le faire facilement, mais les experts en IA conviennent largement que ce n’est pas quelque chose de proche de la sensibilité comme l’est un humain.
« En gros, ce qu’ils font, c’est qu’ils sont des machines à pastiche », a déclaré Gary Marcus, scientifique cognitif et entrepreneur en intelligence artificielle. « Ils ont assemblé beaucoup de petites pièces qu’ils ont déjà vues. »
Les LLM comme ChatGPT sont formés sur des trésors de texte massifs, qu’ils utilisent pour assembler des réponses aux questions en analysant et en prédisant quels mots pourraient le plus plausiblement venir ensuite en fonction du contexte d’autres mots. Une façon d’y penser, comme Marcus l’a décrit de manière mémorable, est « l’auto-complétion sur les stéroïdes ».
Marcus dit qu’il est important de comprendre que même si les résultats semblent humains, ces systèmes ne « comprennent » pas les mots ou les concepts qui les sous-tendent de manière significative. Mais parce que les résultats sont si convaincants, cela peut être facile à oublier.
« Nous voyons des morceaux de texte plausibles, et nous nous disons, il doit y avoir de l’intelligence quelque part, de la même manière que nous regardons la lune et nous nous disons, je pense que je vois un visage sur la lune », dit Marcus.
« Nous faisons une sorte d’anthropomorphisation … où nous attribuons une sorte d’animosité, de vie et d’intelligence qui ne l’est pas vraiment », a-t-il déclaré.
« Il n’y a pas d’homoncule secret à l’intérieur du système qui comprenne de quoi vous parlez. »
Qui a le pouvoir ?
Donc, si ces outils ne comprennent pas réellement le monde, pourquoi tenons-nous tant à les faire croire qu’ils le font ?
La réponse simple est qu’il s’agit simplement d’un marketing intelligent de la part des entreprises technologiques qui les construisent – cela les rend amusants et intéressants à utiliser. Mais pour Fellows, cela masque une dynamique de pouvoir qui mérite d’être prise en compte.
« Nous sommes encouragés à interagir avec ces agents comme s’ils avaient une sorte de subjectivité, mais nous savons aussi qu’ils n’en ont pas », a-t-elle déclaré.
« Nous nous sentons responsabilisés… en utilisant ces outils », a-t-elle poursuivi. « [But] au lieu de cela, à travers cette apparence de subordination, ces outils recueillent beaucoup de connaissances sur nous [and] toutes ces connaissances sont transmises aux entreprises technologiques, qui, selon moi, sont en position dominante ici. »
« La façon dont les choses nous sont renvoyées ne sert pas nécessairement nos propres intérêts. »
Les boursiers soulèvent également une préoccupation constante avec l’apprentissage automatiquec’est-à-dire que les modèles entraînés sur des ensembles de données volumineux ont tendance à reproduire les biais et la sous-représentation ou la surreprésentation dans ces ensembles de données.
C’est inquiétant pour les boursiers, car ces outils sont de plus en plus capables non seulement d’effectuer des tâches de base pour nous, mais aussi de parler en notre nom, de nous représenter.
« Sommes-nous en train de perdre notre agence ici ou d’augmenter notre agence ? elle a demandé. « Je pense que dans certains sens pour le moment, c’est les deux, et nous ne savons pas nécessairement comment cela va se dérouler. »
Mauvaise utilisation et incompréhension
Marcus s’inquiète également du potentiel d’utilisation abusive de ces systèmes. En particulier, il s’inquiète de la facilité avec laquelle il est possible de les utiliser pour créer une désinformation et une désinformation convaincantes.
« Cela rend le coût de la génération de fausses informations presque nul », a-t-il déclaré.
« La démocratie est basée sur des électeurs informés qui prennent des décisions éclairées, et si nous nous retrouvons soudainement dans un monde où la quantité d’informations erronées dépasse tellement les informations exactes, personne ne croira quoi que ce soit. »
Lié à cela, il y a un problème global plus important : parce que les LLM ne comprennent pas ou ne vérifient pas leurs résultats, ces résultats sont souvent trompeurs, ou tout simplement faux. Les experts en intelligence artificielle appellent cela « hallucinant », et il ne semble pas y avoir de moyen évident d’empêcher les LLM de le faire. C’est particulièrement dangereux, dit Marcus, en raison de la façon dont ils semblent encore convaincants tout en le faisant – et parce que beaucoup de gens ne réalisent toujours pas comment ils fonctionnent et à quel point ils sont sujets à l’erreur.
« Les gens peuvent utiliser ces illusions s’ils les apprécient dans une certaine mesure, mais ils doivent comprendre que c’est une illusion, qu’ils ne peuvent pas leur faire confiance », a-t-il déclaré.
« J’aime penser à l’IA en tant qu’adolescent en ce moment. Par exemple, elle commence à être habilitée et elle n’est pas vraiment prête pour ce pouvoir », a-t-il poursuivi. « Je pense que nous entrons dans une ère où nous avons vraiment besoin de connaissances en IA, ce dont nous n’avions jamais eu besoin auparavant. »
Fellows convient qu’il est crucial pour les gens de comprendre la nature et les limites des LLM avant de leur faire confiance.
« Je pense que le meilleur scénario serait que dans 10 ans, nous les verrions de la même manière que nous voyons maintenant des choses comme la vérification orthographique », a-t-elle déclaré.
Comme le souligne Fellows, les humains ont toujours façonné le monde qui les entoure avec des outils – même étendu notre esprit en eux – et certains philosophes ont soutenu que ces outils nous ont également façonnés. Fellows dit que l’IA n’est probablement pas différente – mais cela ne signifie pas que nous ne devrions pas être prudents.
« Dans notre quête pour construire de plus en plus de machines ressemblant à des humains », a-t-elle déclaré, « nous courons peut-être le risque de nous transformer en humains de plus en plus ressemblant à des machines ».
ACTUALITÉS RÉGIONALES
La Colombie-Britannique augmente les paiements mensuels aux familles d’accueil
ACTUALITÉS RÉGIONALES
La GRC de la Colombie-Britannique procède à des arrestations sur le site de protestation d’un pipeline à la suite d’«incidents d’essaimage» présumés
ACTUALITÉS RÉGIONALES
Des policiers de Vancouver affirment que des représentants syndicaux leur ont dit de ne pas prendre de notes après la mort de Myles Gray
Selon un rapport d’enquête obtenu par CBC News, quatre policiers de Vancouver accusés d’inconduite pour avoir omis de prendre des notes après la rencontre qui a tué Myles Gray affirment l’avoir fait sous la direction du syndicat de la police de Vancouver.
Les allégations, qui impliquent à la fois l’actuel et l’ancien président du syndicat, sont contenues dans un rapport final de 278 pages préparé par le sergent de la GRC de Richmond. Robert Nash sur ordre du Bureau du commissaire aux plaintes contre la police (OPCC).
Un agent qui était sur les lieux lorsque Gray est décédé le 13 août 2015, a déclaré à l’enquêteur que « le syndicat lui avait ordonné de ne prendre aucune note manuscrite en attendant au septième étage du siège du VPD après l’incident », selon le rapport, daté du 24 février 2022.
L’officier a déclaré « qu’il était sur le point de prendre ses notes manuscrites quand on lui a conseillé de ne pas le faire; il aurait pris des notes s’il n’avait pas reçu l’ordre du syndicat de ne pas prendre de notes », a écrit Nash.
Bien que l’agent ne se souvienne pas qui lui avait dit de ne pas prendre de notes, il a déclaré que le président du Vancouver Police Union (VPU), Ralph Kaisers, était l’un des deux représentants syndicaux présents à ce moment-là.
Le même gendarme a allégué que Kaisers lui avait ordonné de ne pas faire de déclaration officielle à la police avant sept mois après la mort de Gray, ce qui n’était « pas une pratique courante », indique le rapport.
Un autre gendarme a déclaré à Nash qu ‘ »il croyait que cette instruction de ne pas prendre de notes avait été donnée par l’ancien président du syndicat Tom Stamatakis ».
Deux autres agents ont corroboré l’allégation selon laquelle les représentants syndicaux leur avaient ordonné de ne pas prendre de notes.
Stamatakis, qui est maintenant président de l’Association canadienne des policiers, a déclaré à CBC dans un message écrit qu’il n’avait pas lu le rapport complet, « mais je dirai que ce n’est pas un conseil que je donnerais ».
Kaisers a refusé de commenter, affirmant qu’il était lié à la confidentialité par la loi sur la police.
« Absolument épouvantable »
Le criminologue de l’Université Simon Fraser, Rob Gordon, qui est un ancien policier, a décrit les allégations d’ingérence syndicale comme choquantes.
« L’optique de cela est absolument épouvantable », a-t-il déclaré à CBC. « Je suis juste étonné par cela. La prise de notes est très importante dans toute enquête policière, toute enquête policière, car les policiers auront des souvenirs faillibles. »
Il a déclaré que le but des notes contemporaines est de servir d’aide-mémoire lorsque les agents sont interrogés sur les événements à une date ultérieure, et il existe des règles strictes sur la façon dont les cahiers de police sont manipulés pour éviter tout soupçon de manipulation.
À la suite de l’enquête de Nash, un total de six policiers de Vancouver doivent faire face à une audience en avril sur des accusations de manquement au devoir en vertu de la Loi sur la police pour avoir omis de prendre des notes sur ce qui s’est passé le jour de la mort de Gray. Deux de ces officiers ont dit à Nash qu’ils ne se souvenaient pas qu’on leur ait dit de ne pas prendre de notes, indique le rapport.
Les six gendarmes, plus un officier supplémentaire, sont également accusés d’abus d’autorité par l’usage inutile de la force.
Le processus disciplinaire est dirigé par le chef de la police de Metro Vancouver Transit, David Jones, sous la supervision de l’OPCC. Si les allégations sont prouvées, les agents pourraient faire face à des mesures disciplinaires pouvant aller jusqu’au renvoi du VPD.
Le rapport de Nash cite une décision de 2013 de la Cour suprême du Canada qui confirme que la police a le devoir « de préparer des notes précises, détaillées et complètes dès que possible après une enquête ».
Il fait également référence à la politique du VPD exigeant que les agents tiennent des registres écrits quotidiens de leurs activités.
Nash a écrit que toute directive du syndicat « n’aurait pas fourni une raison valable ou suffisante pour ne pas prendre de notes ».
Neuf agents du VPD ont été les seuls témoins de la mort de Gray dans une arrière-cour de Burnaby, en Colombie-Britannique.
L’homme de 33 ans non armé effectuait une livraison pour son entreprise de fleuriste basée à Sechelt lorsque la police a été appelée après avoir confronté une propriétaire de South Vancouver pour avoir arrosé sa pelouse pendant une sécheresse prolongée.
Les agents ont retenu les bras et les jambes de Gray, lui ont donné des coups de poing, de pied et de genou, l’ont aspergé de gaz poivré et l’ont frappé avec une matraque, selon un rapport du service des poursuites de la Colombie-Britannique. Les officiers impliqués ont affirmé que Gray était agressif et faisait preuve d’une « force surhumaine » lors de leurs efforts pour le maîtriser, selon le rapport de Nash.
Malgré une longue liste de blessures – y compris une boîte vocale fracturée, plusieurs os cassés et un testicule rompu – les experts médico-légaux n’ont jamais été en mesure d’identifier la cause du décès de Gray.
Le Bureau des enquêtes indépendantes a enquêté et a transmis un rapport à la Couronne en pensant que les agents avaient peut-être commis un crime.
Mais en décembre 2020, le service des poursuites de la Colombie-Britannique a annoncé que aucun des officiers ne serait accusé au pénalen partie à cause du manque de témoins et de l’incertitude entourant la cause du décès.
La Colombie-Britannique augmente les paiements mensuels aux familles d’accueil
Les dirigeants des Premières Nations quittent Queen’s Park après un échange houleux sur les propositions minières
La GRC de la Colombie-Britannique procède à des arrestations sur le site de protestation d’un pipeline à la suite d’«incidents d’essaimage» présumés
La photographie de «l’espace liminal» capture l’étrangeté et l’isolement de la vie pandémique
La chouette lapone renverse le scénario du photographe animalier de Québec
L’humilité et le flair de Guy Lafleur rappelés aux funérailles nationales de la légende du Tricolore
-
ACTUALITÉS RÉGIONALES1 an agoLa photographie de «l’espace liminal» capture l’étrangeté et l’isolement de la vie pandémique
-
Canada1 an agoLa chouette lapone renverse le scénario du photographe animalier de Québec
-
Canada11 mois agoL’humilité et le flair de Guy Lafleur rappelés aux funérailles nationales de la légende du Tricolore
-
divertissement et art1 an agoSquid Game, Will Smith parmi les gagnants des imprévisibles SAG Awards
-
Canada1 an agoLes Québécois se mobilisent pour ouvrir leurs maisons aux réfugiés ukrainiens
-
Football8 mois agoLe vainqueur de Cavallini mène les Whitecaps en désavantage numérique à une victoire de retour contre le Dynamo
-
divertissement et art1 an agoWill Smith gifle et insulte Chris Rock lors de la diffusion en direct des Oscars
-
Affaires8 mois agoMcDonald’s rouvrira bientôt ses sites en Ukraine