Podcast 93 : l'édition et les IA

[Guigz]

Quelque chose d'intéressant pour les illustrateurs puisque vient d'apparaitre un outil permettant "d'empoisonner" l'IA et ce qu'elle créerait à partir d'illustrations originales. Un exemple ci dessous :


Au bout de plusieurs échantillons empoisonnés, le chien devient un chat, la voiture devient une vache, etc.

L'article est à lire ici : https://www.technologyreview.com/2023/1 ... ace-a-l-ia

[Foradan]

Ce qui m'a fait tilter quand je l'ai appris, c'est que les captcha*, accompagnés de la mention "je ne suis pas un robot", demandant de reconnaître des bouts d'images, ont servi à éduquer ces robots.

* marque commerciale déposée par l'université Carnegie-Mellon.

[Foradan]

Et le quotidien de donner davantage de grain à moudre sur ce sujet.
Cela fait bien longtemps que des fournisseurs de messagerie et de mails proposent des réponses rapides, plus élaborées que "oui/non", ce qui laisse entrevoir qu'un robot lit et interprète les messages (mais ce n'est pas pour nous espionner, ça se saurait).

Mon téléphone -qui fait aussi des photos- m'a proposé des montages de son cru, à son initiative, en regroupant des images de sucreries ou d'arc en ciel, sans que j'ai jamais répertorié ou notifié ces images.
Si j'avais fait une demande pour que le téléphone recherche et trie des images montrant un arc en ciel, j'aurais trouvé sa capacité à reconnaître telle image comme capable de vaincre un captcha.
Mais là, c'est le robot dans le téléphone qui décide, parce qu'il s'ennuie, de faire un classement des images et d'en faire un montage pour me le montrer.

Prochaine étape, il fera une sélection photo de tous mes amis, et se basera sur la surveillance de mes conversations pour déterminer qui n'est pas un vrai ami ?

[Aslan]

Rie Kudan, 33 ans, a révélé avoir «employé tout le potentiel de l'IA pour écrire ce livre», expliquant qu'«environ 5% du livre est constitué de phrases générées par l'IA» citées mot pour mot.

Rie Kudan, lauréate du plus prestigieux prix littéraire japonais, a expliqué qu'environ 5% de son roman futuriste avait été écrit par le logiciel d'intelligence artificielle générative ChatGPT, estimant que celui-ci l'avait aidée à libérer son potentiel créatif. Le dernier roman de l'autrice, Tokyo-to Dojo-to, dont le titre peut se traduire par La Tour de la compassion de Tokyo, a reçu mercredi le prix Akutagawa, le jury déclarant qu'il était d'une «telle perfection qu'il est difficile d'y trouver des défauts».

Mais Rie Kudan, 33 ans, a révélé lors d'une cérémonie avoir «employé tout le potentiel de l'IA pour écrire ce livre», expliquant qu'«environ 5% du livre est constitué de phrases générées par l'IA» citées mot pour mot.

L'outil d'IA lancé en 2022, qui peut rédiger des textes sur demande en quelques secondes, suscite des inquiétudes de plus en plus vives dans divers secteurs, dont celui de l'édition. L'IA est un sujet récurrent du livre de Kudan se déroulant dans un Tokyo futuriste, qui a pour thème une tour-prison conçue par une architecte mal à l'aise dans une société excessivement tolérante. Mme Kudan a dit converser fréquemment avec l'IA, lui confiant ses pensées les plus intimes, dont elle «ne peut parler à personne d'autre», ajoutant que les réponses de ChatGPT ont parfois inspiré des dialogues du roman. Elle a indiqué vouloir entretenir de «bonnes relations» avec l'IA et «libérer (sa) créativité».

Clivant
Contactée par l'AFP, l'organisation du prix Akutagawa n'a pas souhaité commenter ces déclarations. Les avis étaient partagés sur les réseaux sociaux, où certains jugeaient l'approche de Mme Kudan moralement discutable. «Elle a donc écrit un livre en utilisant habilement l'IA... Est-ce que c'est du talent? Je ne sais pas», a écrit un internaute sur X. D'autres saluaient l'ingéniosité de la romancière et les efforts déployés lors de ses dialogues avec l'IA pour en tirer des textes.

Des livres citant ChatGPT comme co-auteur ont été mis en vente via le service d'auto-édition de livres électroniques d'Amazon, mais sont généralement jugés de piètre qualité. L'auteur britannique Salman Rushdie a estimé fin 2023 qu'un court texte généré dans son style par une intelligence artificielle était tout bonnement «à jeter».

De nombreuses actions en justice ont par ailleurs été lancées par des auteurs comme George R.R. Martin (Game of Thrones) contre la start-up californienne OpenAI, à l'origine de ChatGPT, qu'ils accusent de bafouer leurs droits d'auteur.

[Strannik]

https://edition.cnn.com/2024/01/19/styl ... index.html

La lauréate d'un prix littéraire japonais admet avoir utilisé ChatGPT pour écrire 5% (selon elle) de son roman.

[Aslan]

C'est... pile le le sujet du message au-dessus.

[Foradan]

On parle de 5%, avoué et assumé ; mais quand il s'agira de 50 ou 80%, incognito ? L'IA pourra-t'elle un jour être désignée gagnante du jury à l'aveugle ?

Pourrait-on d'ailleurs remplacer les jurys humains par des IA ?

[terriblius69]

Bonnes questions même si perso, j'utiliserai l'IA sur d'autres tâches que de lire à ma place, genre des trucs qui me plaisent un peu moins (y aurait pas une IA qui fait le ménage )

[Strannik]

C'est... pile le le sujet du message au-dessus.

Pardon Aslan.

Cette information-ci n'a a priori pas été postée :

https://www.courrierinternational.com/a ... formatique

Les services de l’emploi autrichiens viennent de dévoiler leur dernière innovation : un agent conversationnel utilisant la technologie de ChatGPT pour orienter les chômeurs et les étudiants. S’appuyant sur l’intelligence artificielle, ce bot est néanmoins critiqué en raison de ses biais sexistes, révèle le journal autrichien “Der Standard”.

Un autre problème est qu'un tel logiciel collecte beaucoup de données personnelles, et que garantir l'absence de fuites est difficile.

ChatGPT étant entraînée à partir de textes sur internet, le logiciel reproduit ce qu'il trouve sur internet. Notamment les préjugé qui y sont répandus.

[Gillossen]

On parle de 5%, avoué et assumé ; mais quand il s'agira de 50 ou 80%, incognito ? L'IA pourra-t'elle un jour être désignée gagnante du jury à l'aveugle ?

Pourrait-on d'ailleurs remplacer les jurys humains par des IA ?

J'ai partagé l'info sur les réseaux.
Et j'ai été très surpris de constater que même si une majorité des gens trouvent ça plus que gênant, tu en as que ça ne dérange pas plus que ça, voire pas du tout.
Et même un auteur (que je ne citerai pas) ! Ce n'est pourtant pas le pourcentage en lui-même le problème, c'est le simple fait qu'une partie du texte ne soit, tout simplement, pas écrit par l'autrice.

[Luigi Brosse]

Tu veux dire comme dans les livres écrits par des politiciens ?

[Gillossen]

En général, tu as quand même le nom du journaliste à l'intérieur.
Et à la limite, peu importe, ce n'est pas de la fiction.

[Strannik]

https://www.courrierinternational.com/a ... u-les-yeux

article du courrier international :

qui peut se résumer par :
"Autrement dit, le niveau d’intelligence du modèle algorithmique est proportionnel au travail humain fourni en amont"

Le premier corolaire, c'est que les logiciels "l'IA" ne sont pas intelligents : elle fait simplement des moyennes de très larges de jeu de données qui lui ont été prédigérées par des humains. Ce sont simplement des moteurs de recherche plus sophistiqués.

Le second c'est que les images et textes annotées par ces petites mains font l'objet d'un processus long et fastidieux et ne sont pas prises "au hasard". Les promoteurs de logiciels d'IA" ne peuvent pas prétendre ne pas savoir quelles sont les sources utilisées par leurs logiciels.

[Gillossen]

Non, pas vous M. Rushdie, pourquoi cible la littérature de genre ?

https://www.lefigaro.fr/livres/salman-r ... s-20240321

[Akallabeth]

Ca fait toujours plaisir de voir que des littéraires pensent encore qu'il y a des sous-genres pour lesquels le style et l'originalité sont superflus... L'humour aussi apparemment. Y'en au qui manquent des occasions de se taire des fois!

[Gillossen]

C'est qu'il n'a plus les yeux en face des trous, peut-être...
(Je suis déjà dehors)

[terriblius69]

Je ne partage pas du tout sa phrase sur les littératures de genre effectivement. Les plus belles plumes que j'ai lu sont en imaginaire (même si j'en lis beaucoup plus que de la blanche ou de la classique, du polar ce qui augmente les chances)

[Gillossen]

Disons que c'est un raccourci malheureux.
En thriller, l'écriture doit être efficace, ça ne veut pas forcément dire à ch...

[Aslan]

https://information.tv5monde.com/scienc ... nt-2730018

[Gillossen]

https://whatever.scalzi.com/2024/06/21/ ... ok-covers/

Bon, tout le monde n'a pas l'influence de Scalzi cela dit.