L’arrivée de logiciels d’intelligence artificielle comme ChatGPT d’OpenAI a suscité à la fois l’intrigue et l’alarme quant à la façon dont la technologie façonnera tout, depuis les devoirs futurs, la sécurité et même le cadre même du capitalisme.

La forte augmentation des outils d’IA disponibles stimule la demande dans un domaine en pleine croissance appelé ingénierie rapide.

Selon Simon Willison, un développeur et chercheur qui a étudié les ingénieurs prompts, ils sont recherchés en tant qu’experts en « communication avec ces choses ».

Les ingénieurs d’invite n’utilisent pas vraiment de langages de codage, mais se spécialisent dans la création d’invites détaillées pour obtenir de meilleurs résultats à partir des outils d’IA. Ils sont embauchés par des entreprises pour améliorer les résultats de leurs outils d’IA, et il existe même des marchés indépendants pour les invites.

Willison pense que le domaine est là pour rester car l’expertise continuera d’être nécessaire pour tirer le meilleur parti de modèles d’IA de plus en plus complexes. Par exemple, cette semaine seulement, OpenAI a publié GPT-4, qui est la dernière version mise à l’échelle du modèle de grande langue qui exécute ChatGPT. Il peut lire le contenu des images, ainsi que du texte, et OpenAI prétend qu’il peut même passer un examen du barreau simulé.

Il existe également des interactions basées sur des invites avec l’IA qui sont intentionnellement malveillantes. Dans un exemple récent très médiatisé, Kevin Liu, étudiant à l’Université de Stanford, a trompé le chatbot alimenté par l’IA de Microsoft Bing en utilisant une « attaque par injection rapide » pour amener l’IA à divulguer ses secrets, la laissant se déclarer « violé et exposé. »

Willison a parlé avec Jour 6 l’hôte invité Peter Armstrong quant à savoir si le scepticisme est justifié quant au degré de contrôle dont disposent les ingénieurs – et s’il s’agit d’une véritable science ou simplement d’une intuition apprise. Voici une partie de cette conversation.

Vous avez dit dans certains de vos écrits qu’il est important que les ingénieurs rapides résistent à ce que vous appelez la pensée superstitieuse. Que veux-tu dire par là?

C’est très facile quand on parle de l’une de ces choses de penser que c’est une IA sortie de la science-fiction, de penser que c’est comme le Star Trek ordinateur, et il peut comprendre et faire n’importe quoi. Et ce n’est vraiment pas le cas.

Ces systèmes sont extrêmement bons pour prétendre être tout-puissants ou savoir des choses, mais ils ont des défauts énormes et énormes. Il est donc très facile de devenir superstitieux en pensant : « Oh, wow, je lui ai demandé de lire cette page Web. Je vous ai donné un lien vers un article et il l’a lu. » Il ne l’a pas lu.

La plupart du temps, il inventera des choses qui donneront l’impression qu’il a fait ce que vous lui avez demandé. Mais en fait, c’est vraiment juste une sorte d’imitation de ce qu’il pensait que vous pourriez… mais en réalité, c’est une sorte d’imitation de ce qui ressemblerait à une bonne réponse à la question que vous lui avez posée.

Je n’ai pas l’habitude de travailler avec des ordinateurs qui pourraient me dire non.-Simon Willison

Nous avons déjà des gens qui les appellent les chuchoteurs de l’IA. Dans quelle mesure cela relève-t-il, vous savez, de la magie par opposition à la science ?

On peut vraiment avoir l’impression d’être une sorte de magicien. Vous sortez de sorts à [the AI]. Vous ne comprenez pas bien ce qu’ils vont faire, et cela réagit parfois bien, et parfois mal.

J’ai parlé à des praticiens de l’IA qui parlent en quelque sorte de collecter des sorts pour leur livre de sorts, mais c’est aussi une comparaison très dangereuse à faire car la magie est, par nature, impossible à comprendre pour les gens et peut tout faire. Ces modèles ne sont absolument pas fondamentalement cela. Ce sont des mathématiques.

Selon vous, quel contrôle ces ingénieurs rapides ont-ils réellement ?

L’une des frustrations de travailler avec ces systèmes est que vous ressentez un manque total de contrôle. Je suis programmeur informatique. J’ai l’habitude de programmer des ordinateurs où ils font exactement ce que vous leur dites de faire, et ces systèmes ne le font pas.

Souvent, ils feront ce que vous demandez. Parfois, ils vous refuseront même pour des raisons éthiques. Ils diront : « Non, je ne suis pas à l’aise pour terminer cette opération. »

Je n’ai pas l’habitude de travailler avec des ordinateurs qui pourraient me dire non.

Devrions-nous avoir une éthique [concerns] sur l’ingénierie rapide dans ce monde ?

Je ne suis pas inquiet du genre de scénario de science-fiction où l’IA sort de mon ordinateur portable et prend le contrôle du monde.

Mais il y a beaucoup de choses très nuisibles que vous pouvez faire avec une machine qui peut imiter les êtres humains et qui peut produire un texte humain réaliste. Les opportunités de spam et d’escroquerie et d’automatisation des choses, comme les escroqueries amoureuses, sont très réelles et très préoccupantes pour moi.

Et est-ce que cela devient plus complexe à mesure que nous devenons meilleurs et plus efficaces pour l’utiliser ?

Je pense que oui. Je pense que les personnes qui ont des intentions malveillantes et qui apprennent à faire ce genre de choses pourront intensifier cette intention malveillante. Ils pourront opérer à des échelles beaucoup plus élevées. Et pendant ce temps, il y a des gens qui essaient de… aider à lutter contre la désinformation et les aider à repérer des sortes de campagnes d’influence.

Il y a donc toutes sortes d’applications différentes de cela. Certains sont vraiment mauvais, certains sont vraiment bons.

Les ingénieurs rapides ont-ils un avenir, ou allons-nous tous finir par pouvoir les rattraper et utiliser cette IA plus efficacement ?

De nombreuses personnes dans leur vie professionnelle et personnelle vont apprendre à utiliser ces outils. Mais je pense aussi qu’il y aura de la place pour l’expertise.

Il y aura toujours un niveau auquel il vaut la peine d’investir une expérience à temps plein dans la résolution de certains de ces problèmes, en particulier pour les entreprises qui construisent des produits entiers autour de ces moteurs sous le capot.

---

Segment radiophonique de Mickie Edwards. Questions et réponses éditées pour plus de longueur et de clarté.

Par Joy SpearChief-Morris

2023 marque le 30e anniversaire des manifestations de 1993 de Clayoquot Sound contre l’exploitation des forêts anciennes sur la côte ouest de l’île de Vancouver.

Alors qu’une grande partie de la zone d’exploitation forestière contestée a finalement été épargnée par la coupe à blanc, les forêts anciennes d’autres régions de la Colombie-Britannique n’ont pas bénéficié de la même protection.

Le documentaire Guerre pour les bois suit Stephanie Kwetásel’wet Wood, une journaliste autochtone qui cherche à comprendre comment les forêts anciennes de la Colombie-Britannique ont pratiquement disparu en cette période troublante de changement climatique – et comment les communautés autochtones tentent de sauver ce qui reste.

Le film est écrit et réalisé par les cinéastes torontois Sean Stiller et Geoff Morrison. Stiller est également le directeur de la photographie du film et membre de la Première Nation de Williams Lake de la Nation Secwépemc, tandis que Morrison est le fondateur de la société de production du documentaire, Big Cedar Films. Ils se sont entretenus avec CBC Docs pour discuter de l’importance des forêts anciennes et de la réalisation de ce film d’un point de vue autochtone.

Cette interview a été modifiée pour plus de longueur et de clarté.

Quelque chose a-t-il changé depuis les manifestations de 1993 à Clayoquot Sound ? Y a-t-il eu des mises à jour de la politique d’exploitation forestière et de coupe à blanc en Colombie-Britannique?

Geoff Morrisson : Je pense que l’une des choses que le film essaie de faire est de le regarder vraiment du point de vue des Tla-o-qui-aht et des nations centrales Nuu-chah-nulth. Leur histoire n’a pas été entendue aussi fort [and isn’t] autant dans l’histoire, mais les choses ont vraiment changé pour eux en termes de prise de contrôle de leurs forêts et de la façon dont ces forêts seraient exploitées au cours des années à venir.

Dans un sens plus large – je veux dire, juste de mon point de vue – je ne suis pas sûr que beaucoup ait vraiment changé en termes de débat sur la coupe à blanc et l’exploitation forestière ancienne, car nous voici 30 ans plus tard et nous nous battons toujours pour protéger ce qu’il reste d’ancien.

Sean Stiller : Peut-être que ce qui a quelque peu changé, parmi ces nations, c’est [that there’s now] une conversation beaucoup plus vigoureuse, ou peut-être que la confiance est le mot juste, autour des questions de souveraineté et de prise en charge réelle de l’intendance du territoire. Les Tla-o-qui-aht, les Ahousaht et les Hesquiaht ont tous formulé des décisions très claires sur l’utilisation des terres, des visions très ambitieuses de l’utilisation des terres sur la façon dont ils veulent gérer leurs territoires.

De nos jours, il existe également des partenaires extérieurs qui, bien sûr, sont incités à protéger ces écosystèmes vierges. Il existe donc des systèmes en place pour essayer d’acheminer des fonds vers ces pays afin qu’ils puissent, par exemple, racheter efficacement leurs licences d’exploitation forestière afin qu’ils soient économiquement incités à ne pas abattre [and] ont d’autres voies économiques viables. Cela ressemble à une toute nouvelle conversation.

Pourquoi cette histoire est-elle encore importante à raconter aujourd’hui ?

GM : La raison pour laquelle nous entendons tant parler de la forêt ancienne dans les nouvelles est qu’il reste si peu de croissance et qu’il a été scientifiquement prouvé que ces forêts sont essentielles au stockage du carbone de la planète.

Ce que nous avons essayé de faire avec le film, c’est de le regarder d’un autre point de vue également… pour montrer qu’il y a plus que la valeur écologique, [that] il y a aussi une valeur culturelle à ces forêts.

SS : Dans une certaine mesure, l’impulsion pour ce [documentary] commandé, c’est que nous célébrons maintenant le 30e anniversaire des manifestations de Clayoquot Sound, auxquelles nous faisons bien sûr allusion au début de la [film]. Il y a donc une opportunité pour cet événement historique et ensuite l’utiliser comme rampe de lancement pour une conversation plus contemporaine.

Nous avons profité de l’occasion pour parler de choses comme le financement de la conservation, qui, en particulier parmi les nations Nuu-chah-nulth du centre, est devenu une poussée assez forte, en termes de la façon dont ils dépassent l’exploitation forestière, mais d’une manière qui permet aux nations de fournir des ressources économiques opportunité aux membres de leur groupe… plutôt que de les laisser les mains vides.

Notre objectif était de passer du temps à parler de ces solutions, plutôt que d’être simplement en première ligne avec des personnes en grande partie non autochtones qui s’opposaient à l’exploitation forestière ancienne.

Ce documentaire a été filmé et produit par une équipe autochtone. Pourquoi est-il important de raconter ces histoires à travers une lentille autochtone ?

SS : Nous voyons les choses d’un point de vue très différent, et je pense que lorsque vous travaillez avec une société de production autochtone… vous n’avez pas à vous battre pour ce point de vue. C’est là. C’est en quelque sorte intégré. Et cela se fraye également un chemin dans de nombreux autres aspects de la production. Donc, vous savez, la façon dont vous vous traitez, la façon dont vous dialoguez, vous concentrez sur le bien-être des gens, sachant que vous entrez dans des espaces où il pourrait y avoir des traumatismes ou des conversations difficiles.

Il y a une compréhension intégrée que vous prenez le temps dont vous avez besoin, vous prenez le soin dont vous avez besoin pour aborder ces choses de la bonne manière. Des choses comme des honoraires vraiment généreux et la garantie que des médicaments sont offerts aux participants – ce ne sont que des dons.

C’est [the] des choses qui, historiquement, les entreprises non autochtones auraient pu faire des faux pas. Vous pouvez assumer une certaine nuance et sensibilité en travaillant avec une équipe de production autochtone.

Ce film a été tourné dans d’incroyables parcelles de forêt ancienne. Quel impact le tournage dans ces lieux a-t-il eu sur vous ?

SS : C’est toujours un privilège vraiment incroyable d’être invité dans n’importe quelle communauté. J’ai grandi en Colombie-Britannique et la côte ouest a donc… un lien très spécial [for me].

Cette région de l’île de Vancouver, ce genre d’écosystème de forêt pluviale tempérée, est tellement rare, tellement vierge et spéciale. Ken Wu [executive director of Endangered Ecosystems Alliance] nous a emmenés dans une parcelle de vieilles forêts assez vierge, un bosquet, où je ne pourrais pas revenir. C’est en quelque sorte délibérément caché.

Même ayant grandi en Colombie-Britannique, je ne pense pas avoir été dans des écosystèmes de vieilles forêts aussi vierges que lors de ce voyage. Vous entendez des gens parler en termes spirituels, de l’espace… et quand vous y êtes, vous comprenez vraiment. Il a juste un poids incroyable. Et il y a un tel sentiment de révérence pour être dans ces endroits, et vous comprenez si profondément pourquoi il y a ces relations, articulées à travers la langue, à travers la pratique culturelle, à travers tout. C’est juste une de ces choses que le film ne capturera jamais complètement, vous savez ? Mais être là était juste un cadeau incroyable.

GM : Je me sentais également extrêmement chanceuse d’être dans ces environnements – certainement d’y être accueillie. [There were] un certain nombre de moments où, vous savez, Sean était peut-être en train de filmer, et je cherchais d’autres trucs à tourner et je me pinçais à toute la beauté naturelle.

Je veux dire, il y a eu des moments où ça m’a juste frappé : être ici à cet endroit – c’est une preuve. Comme, je peux regarder autour de moi, et je peux voir comment tous ces écosystèmes sont connectés, et pourquoi c’est si important, et pourquoi vous n’obtenez pas cela dans une forêt de seconde venue. Et tout ce que nous lisions, et tout dans nos recherches nous disait [about] pourquoi ces écosystèmes en particulier doivent être entretenus. Et vous savez… sauver une petite parcelle d’arbres ne va tout simplement pas le faire. Donc, oui, pouvoir vivre cela, certainement en personne, a eu un impact significatif sur nous en tant que cinéastes.

Que peut-on apprendre de l’activisme autochtone pour la protection des forêts anciennes?

GM : Ce que nous avons observé en parlant aux gens dans ce film, c’est que l’approche autochtone de la conservation est beaucoup plus complète. Il y a beaucoup plus que cela, et je pense que c’est beaucoup plus basé sur cette relation historique à la terre. Des centaines et des milliers d’années d’intendance de la terre sont ce qui éclaire ces décisions sur la façon dont la terre devrait être gérée aujourd’hui, et je pense que c’est quelque chose de vraiment excitant dans les nouveaux modèles de conservation.

SS : Le peuple Nuu-chah-nulth, comme la plupart des autres nations autochtones, a sa loi naturelle et possède des systèmes de connaissances basés sur l’observation de plusieurs centaines d’années. Et donc, quand il y a une résistance à l’exploitation forestière… ce n’est pas à cause d’un lien purement émotionnel avec la forêt. C’est parce qu’ils comprennent très bien que les oiseaux migrent sur leur territoire à une certaine période de l’année.

Il existe d’autres raisons écologiques très valables de restreindre certaines activités à certains moments, ou de ne se concentrer que sur certaines régions, par exemple, et cela découle de connaissances scientifiques soigneusement combattues – dans certains cas, des connaissances qui [Western] les scientifiques eux-mêmes viennent juste d’y arriver.

Pourquoi avez-vous voulu faire ce documentaire ?

SS : Sur le plan personnel, je semble être attiré par les projets qui ont, à la base, une certaine relation [with] le monde naturel et la culture humaine, et où ces deux se chevauchent, en particulier dans un contexte autochtone. Je me trouve juste attiré par l’importance des histoires, surtout aujourd’hui.

GM : C’est une histoire très compliquée et importante. Et je pense que le privilège d’y venir et de le regarder d’un point de vue légèrement différent – et de vraiment se concentrer sur l’importance de ces arbres, non seulement pour leur valeur écologique mais aussi pour leur valeur pour la culture autochtone – je pense que c’est vraiment ce qui donne à ce morceau un vrai coeur. J’espère que c’est le message que le public laisse avec

Joy SpearChief-Morris est une écrivaine autochtone noire canadienne, une militante et une athlète retraitée d’Équipe Canada.

Chaque année, le navire Amundsen de la Garde côtière canadienne parcourt la mer du Labrador, agissant comme brise-glace et navire de recherche. Lors du dernier voyage en 2022, le paysage était tout nouveau pour de nombreux scientifiques à bord, mais pour deux d’entre eux, le nord du Labrador est la maison.

« Il y a une belle petite plage là-bas », a déclaré Carla Pamak, conseillère en recherche pour le gouvernement du Nunatsiavut, alors que le navire dérivait près du fjord d’Hebron.

« C’est là que j’ai attrapé mon premier omble chevalier », a répondu Michelle Saunders, biologiste et directrice de recherche.

Pamak et Saunders sont les premiers membres du Nunatsiavut à avoir été à bord d’une expédition Amundsen. Pour eux, le travail scientifique du navire est personnel.

« Ce n’est pas seulement de la recherche pour la recherche. C’est de la recherche pour le Nunatsiavut », a déclaré Saunders.

« Nous examinons ce qu’il y a dans l’eau, ce qu’il y a chez les animaux, ce qu’il y a dans les sédiments », a déclaré Pamak. « Nous voulons savoir où nous vivons et ce que nous mangeons. »

Des universitaires de partout au pays voyagent chaque année sur l’Amundsen pour mener des recherches sur un large éventail de sujets liés à l’océan. Les recherches de Pamak et Saunders sur le voyage font partie de la tentative du Nunatsiavut d’établir un plan marin pour ses eaux. Ce plan gérerait l’espace océanique du Nunatsiavut et équilibrerait la demande d’activités humaines avec le besoin de protection de l’environnement.

Le Nunatsiavut a fait ses propres recherches océaniques, mais la zone océanique couverte par le Nunatsiavut est immense, près de 49 000 kilomètres carrés de côtes et d’océans.

« Il est essentiel que nous ayons des partenaires comme le MPO et Amundsen Science pour aller là-bas et comprendre l’océan profond », a déclaré Saunders.

Elle prévoit de présenter leurs découvertes à leur communauté à Nain. Elle espère que cela incitera les jeunes membres du Nunatsiavut à envisager une carrière en sciences.

« J’espère que nos jeunes, notre prochaine génération à venir, seront ceux qui viendront ici faire le travail pour nous, pour eux-mêmes », a déclaré Saunders.

Dave Cote, le scientifique en chef d’Amundsen, dit que la présence de membres du Nunatsiavut à bord est d’une grande aide pour leurs recherches.

« Si nous travaillons dans le Nord, idéalement, nous aimerions travailler avec les communautés du Nord », a déclaré Côté. « La côte du Labrador est la patrie des Nunatsiavut et ils ont une connaissance culturelle et locale vraiment riche parce qu’ils sont là depuis des milliers d’années.

Ces connaissances locales peuvent intervenir de manière inattendue. Au cours d’une journée difficile en mer, les Amundsen ont cherché refuge à l’intérieur du fjord Hebron, un passage étroit dans le nord du Labrador, à l’abri des vents violents et des vagues de la côte. Alors qu’elle était dans les eaux plus calmes, Pamak a suggéré un voyage à terre pour rendre visite à son mari dans leur cabane à Hébron.

Fondée par des missionnaires moraves entre 1829 et 1831, Hébron était autrefois la colonie la plus septentrionale de tout le Labrador et une zone vitale pour la chasse et la pêche des Inuits. La colonie a ensuite été dévastée par la grippe espagnole et la tuberculose et, en 1959, sans avertissement, le gouvernement provincial a annoncé la fermeture de la communauté. Les habitants ont été contraints de déménager.

La réinstallation d’Hébron est un chapitre douloureux dans l’histoire des Inuits du Labrador, car cela signifie que beaucoup ont été forcés de s’installer dans des régions inconnues, entraînant une perte de moyens de subsistance et de culture. Bien qu’Hébron demeure inhabitée, la région est aujourd’hui utilisée comme terrain de cabane par certains membres du Nunatsiavut, dont la famille de Pamak.

« C’est tellement éloigné, c’est tellement stérile », a déclaré Pamak. « Vous ne penseriez pas que les gens viendraient ici et feraient des choses, mais nous le faisons. Nous le faisons toujours. Chaque année, il y a de plus en plus de gens qui montent dans ces eaux, en hiver, en été. Ils viennent ici pour faire leur chasse, leur pêche et leur cueillette.

Les gens de l’Amundsen ont été ramenés à terre par des bateaux Zodiac. Une fois à terre en toute sécurité, le mari de Pamak, Richard, s’est assuré que les visiteurs comprenaient les risques dans le Grand Nord.

« Il y a huit ours là-bas », a déclaré Richard, pointant vers une foule d’ours polaires. « Lorsque vous voyagez, restez en groupe. Ne vous éloignez pas. » Un groupe d’hommes armés veille sur les ours, prêts à tirer en l’air et à les effrayer si besoin est.

L’ancienne communauté est maintenant ponctuée de bâtiments délabrés, d’une église morave décrépite et d’une ancienne Compagnie de la Baie d’Hudson repliée sur elle-même. Malgré les vestiges d’un passé douloureux, Richard et d’autres personnes ont trouvé de nouvelles façons de faire vivre Hébron.

« Au printemps, je viens habituellement juste pour me détendre et chasser la perdrix, faire de la pêche blanche », a déclaré Richard. « Je viens ici en été juste pour m’évader et faire un peu de pêche à l’omble chevalier. » Il fait le voyage à Hébron depuis Nain environ six fois par an, un voyage qui prend environ sept heures dans son petit hors-bord.

Richard apprécie les efforts des chercheurs sur l’Amundsen.

« Vous pouvez voir les changements dans la faune et les poissons », a déclaré Richard. « Je pense que le climat a un impact dans notre région. Il est important de documenter cela maintenant. »

Le voyage à Hébron a également ajouté un nouveau contexte pour les autres scientifiques d’Amundsen comme Eugénie Jacobsen, qui étudie les contaminants, tels que le mercure, dans les poissons des grands fonds.

« Les gens vivent encore ici, et le travail que je fais est directement lié aux personnes qui utilisent ces aliments », a déclaré Jacobsen.

Pamak a déclaré qu’il était important de donner à ces chercheurs cette perspective. « Ce ne sont pas seulement eux qui font le travail pour leur doctorat ou leurs programmes ou quoi que ce soit d’autre. C’est le travail qui va avoir un effet sur les Inuits.

« C’est qui nous sommes », a déclaré Saunders. « C’est ainsi que nous vivions et comment nous vivons maintenant. Il y avait des gens qui pleuraient et nous remerciaient beaucoup de les avoir invités et de leur avoir montré un peu de qui nous sommes. »

« C’était la partie la plus profonde de cette mission pour moi et pour beaucoup de scientifiques à bord. »

En savoir plus sur CBC Terre-Neuve-et-Labrador