Je crois que le truc qui m'a le plus retourné la tête récemment, c'est une vidéo d'un "logiciel de dessin". Comme un con j'ai regardé ça sur le tel et j'ai pas noté l'url, mais c'était juste bluffant : la personne jouait du curseur, et changeait la posture d'un mannequin, rallongeait sa robe, changeait son visage. Puis un chien, le raccourcissait au niveau des pattes, élargissait la face, augmentait la taille des oreilles, changeait l'orientation / la composition donc des parties non visibles du "chien" apparaissaient, etc...

Franchement, ma première impression est que c'était top, que ça pouvait remplacer la fameuse scène de Blade Runner. Le soucis, c'est que je n'ai pas compris où était l'AI : est-ce que c'est une vidéo d'un outil et l'AI permet effectivement de changer une robe d'un drag and drop dans un hypothétique "photoshop+++", est-ce que l'intégralité de la vidéo est une création d'IA, ou est-ce que 0 IA est intervenu, et c'est un projet vidéo 100% humain.
Je sais pas ce qui me fais le plus flipper dans ces 3 proposition, ou si c'est pas le fait que je n'arrive plus à distinguer l'humain de l'IA.

Pareil là : il y a "longtemps" (un mois), les aberrations étaient visibles immédiatement dans midjourney. Là, dans les 10 photos, outre les visages qui font un peu plastique ou abus de maquillage, la seule aberration que j'ai trouvée c'est la montre de Biden qui est sur la chemise. Et le chat à côté d'Erdogan qui a un soucis de taille. Pour le reste, les gens ont un nombre usuel de doigts, leur corps ne se font pas avec un autre truc, etc... Le progrès visible quasiment au jour le jour fait flipper sa race !

Et ça ne fera qu'empirer... Même si on arrive à développer des techniques pour identifier le contenu généré par une IA, il suffira d'entrainer cette même IA en utilisant la technique pour améliorer l'IA, et rendre la technique obsolète, et ainsi de suite

C'est vachement cool d'ailleurs de réduire les droits au chômage et de complexifier celui-ci à la veille d'une révolution technique qui a de grandes chances d'envoyer pas mal de monde au... chômage ! </politique>

Pour revenir dans le topic, je sais plus si j'ai déjà dit cette anecdote ici, donc dans le doute : j'ai une amie qui est illustratrice, pour des plutôt grandes maisons d'édition. Il y a quelques mois, elle a envoyé 3 propositions d'illustrations différentes pour un projet, dont un généré par une IA. C'est ce que le client a choisi. Du coup (outre le coup au moral) se posaient plein de questions juridiques de droits d'auteurs et de qui créditer !

L'Europe planche actuellement sur une obligation de tracabilité des données d'entraînement pour créditer les auteurs. L'intention est bonne, mais en pratique ça ne sera pas possible... Je crois bien que le business des artistes, dans beaucoup de domaines différents, ne va échapper à un gros changement brutal...

Je ne sais plus exactement où j'ai lu ça, mais les IA pour l'instant sont très bonnes pour proposer des idées avec la bonne phrase de création.
Si c'est pour un design unique (genre une affiche, une carte, une impression), ça doit être possible d'utiliser une IA + un professionnel pour des petites retouches et avoir un design final plus rapidement. Si c'est pour un design multiple (bande dessinée, vidéo), l'IA ne doit pas encore pouvoir produire le même style graphique sur plusieurs pages (?) et le professionnel par contre pourra le faire.

Pour l'instant, on remarque encore bien sur les photos générées par IA que les lettres de logo ou sur ces costumes les têtes de Hello Kitty n'ont aucun sens, c'est des motifs qui ressemblent à Hello Kitty ou des suites de lettres qui ressemblent à un logo.
Bon exemple avec cette génération Coca Cola www.reddit.com/r/midjour… il n'y a jamais écrit Coca Cola, mais des symbole qui ressemblent à.

On a encore besoin d'artistes pour cette partie là au moins, et corriger d'autres aberrations, mais pourquoi ne pas imaginer des artistes utiliser les IA pour avoir des idées, et améliorer les créations?

Je pense que le gros problème pour les artistes, c'est la "concurrence déloyale" que ces IA posent... Qui va encore dépenser x milliers d'euros pour faire produire une "oeuvre originale" quand il peut avoir quelque chose de "correct" pour quelques centaines d'euros, généré par une IA ? Et comment créditer ou récompenser le travail artistique qui a servi à entrainer cette IA ?

Exact, il y a une grande discussion sur le reddit sur

Why is this watermarked?

Est-ce seulement le prompt pour générer l'image qui doit être récompensé?
Après, on touche aussi le problème de l'ingénieur qui fixe un bug: il a éventuellement modifié 1 seule ligne de code (ou un paramètre sur une machine), ça peut paraître démesuré de payer une somme folle pour cette petite modification, mais il sait où le faire, et tu payes aussi le "je sais faire"

Je ne parlais pas vraiment de la "compétence" pour mettre en place l'IA ou même pour l'utiliser correctement. Je parle principalement du contenu du jeu de données gigantesque qui est typiquement nécessaire pour entrainer une IA. Si une IA vise à générer des images, par exemple, à partir de texte, il te faut une large collection d'images dont la description est disponible, et ensuite tu entraines ton IA là-dessus. Mais du coup, l'IA apprend sur base d'images qui ont été produites par d'autres personnes, et le résultat final de l'IA dépend grandement (et principalement) de cette collection d'images... ne faudrait-il pas créditer les auteurs de ces images, même s'il est techniquement impossible de savoir exactement quelle a été leur contribution lors de la génération d'une nouvelle image ?

Se pose aussi la question du plagiat : à partir de quel moment considère-t-on qu'une IA génère du contenu "assez proche" d'un élément du jeu d'entrainement pour considérer que le résultat produit est du plagiat et que le crédit ne devrait pas être accordé à l'IA mais bien à l'auteur d'un des contenus qui ont servi à l'entrainer ? Qui sera légalement responsable de ce que l'IA produit ? Car d'un coté, c'est facile de "critiquer un artiste pour plagiat" car il y a une faute "morale" à la base (ou de la grande naïveté), mais dans le cas d'une IA, le plagiat est le résultat d'un long calcul sur lequel l'auteur n'a pratiquement pas la main, et donc sa responsabilité morale est difficile à engager...

Tout à fait.

Et il y a divers niveaux de gris dans la responsabilité du plagiat :
Tout d'abord, le "fais moi telle situation selon le style de X" : si X est un auteur ou un courant artistique encore concerné par le droit d'auteur, il y a clairement plagiat par le donneur d'ordre (le prompteur qui a donné l'ordre à l'IA de faire) : ex : "fais-moi un paysage onirique dans le style de [username_deviantart]", tandis qu'un "fais-moi une scène dramatique à la façon des maîtres de la Renaissance (ou du Caravage, si tu veux être plus précis)" tu n'as pas de soucis d'IP.

Déjà, là il y a un pas.

Ensuite, tu as des domaines plus flous : "fais moi le pape avec une doudoune [nome de la marque]" : droit d'image du pape, et droit d'image de la marque.
"Fais-moi une scène de comédie romantique avec des personnages de l'univers 40k" : déjà, là j'ai envie de voir car cette seule idée me fait marrer, mais là "40k", c'est un univers, et t'as des gens pointilleux sur les droits. Tu n'as pas expressément demandé à plagier, mais de facto, tout ce qui a produit l'imaginaire et les images autour de cet univers est encore sous un droit intellectuel.

Allez, on va encore plus loin, là vraiment j'essaie de n'absolument pas inclure d'IP : "fais-moi un vaisseau spacial en face d'une planète avec deux soleils" : ok, mais "vaisseau spatial", ce n'est pas une cuillère, c'est une œuvre de l'esprit, donc toutes les représentations qui en ont été faites sont récentes (mois d'un siècle), donc couvertes par le droit d'auteur. Donc, fatalement, l'IA a dû s'appuyer sur des œuvres couvertes par celui-ci, donc lóeuvre finale est forcément un mashup sur cette base.

Dans l'immense majorité des cas, les IA performantes ont été entraînées sans prise en compte de cette problématique, en pillant sans vergogne toute image qui passait par là. Ou dans le meilleur des cas, il y a eu un deal a minima avec les gestionnaires de plateformes qui ont juste mis en terme juridique qu'ils autorisaient, mais sans prévenir les artistes et encore moins en les rémunérant. Il me semble que ça a rué dans les brancards contre deviantart il y a quelques mois pour ça.

J'ai assisté il y a peu à un exposé (à propos d'un tout autre sujet, mais ça faisait aussi intervenir l'IA) dans lequel l'auteur parlait d'un projet européen de tracabilité (j'en avais parlé dans mon premier message sur ce thread). J'ai retrouvé l'info...

The Assessment List for Trustworthy Artificial Intelligence (ALTAI), High-Level Expert Group on AI
ec.europa.eu/newsroom/da…

En page 14, il y a l'aspect de tracabilité, notamment:

• Did you put in place measures that address the traceability of the AI system during
its entire lifecycle?
o Did you put in place measures to continuously assess the quality of the input
data to the AI system?
o Can you trace back which data was used by the AI system to make a certain
decision(s) or recommendation(s)?
o Can you trace back which AI model or rules led to the decision(s) or
recommendation(s) of the AI system?
o Did you put in place measures to continuously assess the quality of the
output(s) of the AI system?
o Did you put adequate logging practices in place to record the decision(s) or
recommendation(s) of the AI system?

Si ces "critères" sont respectés, la question devrait être plus facile à régler. Mais en pratique, même sous l'hypothèse que ces critères soient respectés, on sait très bien que de nombreux abus auront lieu et qu'il faudra une pléthore de procès et de sanctions avant que les entreprises utilisant ces IA ne changent leur comportement (parce que si elles peuvent se faire des millions sans respecter la loi, elles le feront, jusqu'au jour où les sanctions couteront plus chers que les bénéfices qu'elles en tirent. Mais avec le RGPD, on a vu qu'il faut beaaaaucoup de temps avant que la réglementation n'ait un impact !).