Warum Künstlerinnen und Künstler generativer KI kritisch gegenüberstehen
Kommerzielle KI-Dienste zur automatischen Erstellung von Texten und Bildern entwerten nach Ansicht von Kreativen Handwerk, Arbeit und Können. Der Unterschied zu Produktivitätstools wie Adobe liegt darin, dass die Arbeit nicht mehr unterstützt, sondern ersetzt wird.
„Sie haben die Bibliotheken nicht verbrannt, sie haben sie mit KI trainiert“
Adobe wurde für Produktivität gebaut, es erledigt die Arbeit nicht für einen wie ein OpenAI-Abo, das sowohl Text als auch Bilder durch Prompts erzeugt. Kommerzielle KI-Dienste entwerten derzeit Handwerk, Arbeit, Können und praktisch alles, was von Hand gemacht oder geschrieben wurde. Autorschaft versinkt.
Menschen halten es inzwischen für akzeptabel, Arbeiten mit einem Prompt zu erzeugen, mit zufälligen Kunstmaterialien, die sie nicht selbst angefertigt haben, und ohne jede Fähigkeit, ihre Kunst zu machen. Das verändert die Bedeutung des Kunstmachens zutiefend und stört die gesamte digitale Kunst. Alles wird zum Dadaismus. Nicht alle Künstler entscheiden sich dafür, Dada zu gehen. Es verschleiert die Bedeutung aller neuen digitalen Kunst mit einem geschwächten Gespür dafür, was echt ist und was nicht.
Wessen Werk ist es? Erlaubnis, Herkunft und die Bibliothek
Wäre David Lynch damit einverstanden, dass Menschen im Auftrag seines Nachlasses einen Avatar von ihm erzeugen? Ich glaube nicht, ich habe sogar Claude selbst gefragt und die Antwort war nein. Es muss zuerst eine Erlaubnis geben, das ist kein All-you-can-eat-Buffet, bei dem man sich bei anderen bedient.
Hayao Miyazakis Haltung gegenüber Menschen, die seinen Kunststil generieren, lehnt generative KI entschieden als eine „Beleidigung des Lebens selbst“ ab. Es geht darum, sein Werk und das Vermächnis des Ghibli-Teams zu bewahren. Es ist seine Entscheidung, ob er einem Technologieunternehmen erlaubt, sein Werk umzudeuten, und nicht die Entscheidung irgendjemandes sonst.
Kann jemand Sam Altman bitte sagen, er soll um Erlaubnis bitten oder hundert Jahre warten, bis es gemeinfrei ist? Wenn große Verlage ihre Meinung ändern, weil Autoren und Künstler ausgenutzt werden, könnte das OpenAI oder Anthropic beeinträchtigen? Vielleicht, bis sie den richtigen Anwalt finden.
Wir steuern in einen Albtraum aus Herkunftsnachweis, Zuschreibung und Aneignung, wer was gesagt und wer was gemacht hat. Wenn eine Bibliothek in ein Modell hineingetrainiert wird, verliert man die Kette darüber, wer es geschrieben hat. Zitate ohne Verständnis, Kunstschule 101 wird zum gesamten Internet.
Das Geschäftsmodell wird gratis auf der Arbeit aller trainiert, ohne Vorabgebühr, und verkauft sie dann als Produktionsmittel zurück. Genau so ersetzt es die Fähigkeiten und Arbeitsplätze der Produktion. Das ist im Wesentlichen der Kern des WGA-Kampfes in zivilisatorischem Maßstab.
Naomi Klein hat es als einen „Menschheitsüberschuss“ beschrieben, bei dem Archiven, Bibliotheken und der Autorschaft als Ganzem gesagt wird, dass Menschen nicht gebraucht werden; das impliziert, dass Menschen kostenlos arbeiten. Die Bibliotheken sind längst zu Staub zerfallen, mit dem alarmierenden Gruppendruck, darüber zu schweigen, während eine Elite aus Twitter-Konten den Leuten beibringt, wie man Geschäfte macht, mit KI in alles eingebaut, und dabei ein mögliches Ausmaß von einem Drittel unserer Wirtschaft riskiert, wenn aus Slop Flop wird…
Die Schriftsteller natürlich, und die Künstler, sogar die Designer, Ingenieure, Programmierer und Coder, nahezu alle beteiligten Autoren, alle beteiligten Handwerker, das Proletariat, werden verdrängt, Arbeit verschwindet in einem industriellen Joker.
Eine der vielen Branchen, die die Hauptlast des Schadens tragen, ist die der Illustratorinnen und Illustratoren. Menschen, die zeichnen, gerieten in eine Depression, nachdem das Generieren von Kunst kommerzialisiert wurde und Prompts Illustrationen im gewünschten Kunststil erzeugen. Alle, die zeichnen, malen, rendern und alles dazwischen können, treten in Konkurrenz zueinander.
Künstler wurden fast unmittelbar verdrängt, nachdem sie mit dem gesamten Internet und Prompts durch KIs konkurrierten, die Bilder erzeugen. Andererseits hat es zugleich eine erneute Wertschätzung für Menschen geschaffen, die von Hand erschaffen.
Es ist ziemlich bedrückend, wenn man gerade auf der Kunstschule ist. Die gesamte Unterhaltungsindustrie, einschließlich Filmen, Musik und Videospielen, mitten in einer Streikphase der Autoren über mehrere Branchen hinweg, steckt in einem rein digitalen Übergang, während das OpenAI-Geschäftsmodell ihr die Luft abschnürt. Hier sind auch die Warnungen, die uns allen allzu vertraut sind, die Branche wandelt sich wirklich Gestalt an Gestalt und alle werden von ihr überholt.
Das mag etwas sarkastisch klingen, aber ein Teil der gesamten Musikbewegung hat seinen Wert in eine KI-Verteidigungswaffe umgeleitet, mit Spotifys Daniel Ek und dessen KI-Verteidigungsunternehmen Helsing; ein Teil des menschlichen Ausdrucks durch Musik endete als Waffe für den Krieg. Die Musikindustrie stirbt, weil die Menschen Schwierigkeiten haben, sie zu verkaufen. Spotify gibt einem ja keine Musikdatei des Ghörten, oder?
Spotify wird leider von zwei oder drei Personen geführt, die die Gewinne der Labels und Verlage horten, sodass der gesamte menschliche Ausdruck der Welt durch Musik über eine Handvoll Menschen veröffentlicht wird, die Streamingplattformen leiten und ihn in die Waffenproduktion kanalisieren, während die Unterhaltungsindustrie mitten in einem präzisen Marktkollaps steckt, der mit Kreativen verbunden ist.
Von Suno will ich gar nicht erst anfangen. Wir sprechen über Menschen ohne jede Fähigkeit, die hier ein Zombie-Apokalypsen-Musikfestival erschaffen. Es fördert die faulste und roboterhafteste Kunst, die ich je gehört habe. Spotify hat tatsächlich kürzlich 75 Millionen KI-Stücke entfernt, endlich; alle KI-Inhalte sollten getrennt werden, es sei denn, der Künstler baut seine eigenen KI-Werkzeuge auf Basis seiner eigenen Materialien und Assets. Wenn der Künstler die Materialien auswählt und automatisierte Werkzeuge baut, ist das akzeptabel. Wenn es zufällige Materialien generiert, ist es absurder Diebstahl.
Theoretisch sollte jedes Mal, wenn ein KI-Chatdienst Quellen beliebigen Materials referenziert, dessen Quelle mindestens einen Cent erhalten; es ist eine digitale Revolution, die sowohl unterdrückt als auch vielleicht „ermächtigt“ wird durch kommerzielle Produkte.
Neulich sah ich, wie die Fotografie einer Künstlerin als „wahrscheinlich KI“ markiert wurde, obwohl ziemlich klar war, dass es handgemachte Fotografie eines Menschen war. Sie fing sich an zu aufregen, und auch ich konnte es nicht glauben.
Menschen denken, KI-Chatdienste können nur Bilder und Text erzeugen und das sei keine große Sache; wenn das nicht schon den gesamten unabhängigen Journalismus, die Kreativbranche und die Kunstwelt gleichzeitig verspottet, stell man sich vor, man wäre Autor und müsste sich sorgen, was KI ist oder nicht und wer was geschrieben hat. Es nimmt wirklich ein Gefühl von Neugier und Entdeckung aus der Freude, eine Kunstform zu吸收. Wenn Claude bereits weiß, wer die Weltmeisterschaft gewonnen hat, ist das ein großes Problem.
Hier ist eine der schlimmsten Erkenntnisse, Vorsicht: Kommerziell generierte Kunst lenkte das Fotografieteam der NASA auf Instagram ab; da gibt es einen Moment, in dem man einen interstellaren Nebel betrachtet und sich fragt, ob er generiert ist oder nicht, habt ihr es kapiert?
Die sterbenden Worte des Kapitalismus klingen ungefähr so, als würden Künstler zu unheimlichen Spambots und niemand weiß mehr, ob sie ihre Kunst generieren oder nicht. Zwei Wörter haben die gesamte westliche Zivilisation in Gang gesetzt, und wir sind jetzt alle Fossilien, die eine Maschine antreiben. Nach ein paar weiteren Wahlzyklen wird man fragen, ob die Mondlandung mit KI generiert wurde.
Früher hatten wir „historische Ereignisse“ in Foto, Video und Ton, und jetzt sind sich die Menschen unsicher, ob sie mit KI generiert wurden. Man stelle sich jemanden vor, der ein Video von MLK verbreitet, das einfach generiert wurde, ohne dass jemand es merkt. Ein Moment, in dem wir überdenken, wie wichtig menschliche Erinnerung ist.
Die Nachahmung früherer Videomedien ist in letzter Zeit beeindruckend, sogar die Videokompression kann ununterscheidbar sein, Bildschirme entscheiden viele Entscheidungen.
Die Pressefreiheit steht ebenfalls auf dem Spiel. Es macht mich wirklich wahnsinnig, dass Menschen denken, das Generieren von Fotografie sei eine gute Idee. Synthetische Inhalte sind eine Waffe, um Kriegsgebiete zu fluten, echte Berichterstattung zu diskreditieren und Quellen zu imitieren. Autokraten bekommen billigere Propaganda, und Journalisten bekommen leichtere Ziele.
Molly Crabapple ist eine bedeutende Autorin und Künstlerin aus Brooklyn, New York; ihre Illustrationen erkennt jeder wieder, und sie hatte einen tief existenziellen Moment, als ihr klar wurde, dass ihr Kunststil ohne ihre Zustimmung umgedeutet werden könnte. Man stelle sich vor, Menschen erschaffen Illustrationen von ihr, die nicht existieren, oder „vollenden“ sie. Es ist schlicht inakzeptabel.
Der legendäre Filmemacher Guillermo del Toro, ebenfalls ein starker Verfechter der antiproduktiven Kunstbewegung, beschrieb das Generieren von Kunst als Betrug und nicht als würdig, Kunst genannt zu werden. Er gibt ein exzellentes Beispiel mit dem Vergleich zu Läufer Usain Bolt: Wenn KI ein Fahrzeug ist, dann kann jeder so schnell wie Usain Bolt sein, aber dann ist es eben kein Laufen mehr.
Es wird schlimmer mit videobasierter generativer Kunst: Wir sehen viel leere KI-Kunst ohne jede Kunstgeschichte dahinter. Ich sehe aber auch echte Momente eines neuen Surrealismus, dem auch Ernst oder Dali zugestimmt hätten, und es gibt Momente einer digitalen Renaissance mit Remixen von Filmen, der Umdeutung von Klassikern, dem Einfangen von Traumlogik und Momenten, die die Videokunst-Collage neu definieren. Die VFX in großen Kinofilmen wurden sicher aktualisiert, wir werden sehen, was passiert, wenn sie Val Kilmer zurückholen (es erscheint ein Film mit seinem Bildmaterial, obwohl er verstorben ist).
Ähnlich wie beim Samplen von Musik werden Momente lebendig und kuratiert zu neuen Bedeutungen. Sonst ist es nur zufälliger Absurdismus, nicht einmal Dada. Ohne eine Idee hält Kunst nicht stand.
Ja, es ist beeindruckend, wie sie die Realität nachbaut; es war auch beeindruckend, wie nahezu perfekt die Skulptur am Ende des antiken Roms war, eine interessante Parallele zum Nachdenken.
Ich sprach mit jemandem darüber, wie es Verwirrung gab, ob ein 3D-Rendering generiert wurde oder nicht, nachdem er seine Arbeit mühevoll von Hand in herkömmlichem 3D gezeichnet und modelliert hatte, und alle waren sofort frustriert über die Erkenntnis, dass kommerzielle KI-Produkte nicht nur die Kunstwelt aushöhlen, sondern die gesamte Kreativbranche. CGI erzeugt Bilder, und es wird nun in ein Marketingmanöver eingeordnet, das aus den zwei Wörtern besteht, auf die alle fixiert sind.
Videospiele werden heute nicht mit KI verkauft; wenn man ein Videospiel verkauft, ist es impliziert, es ist nichts, was als Marketingmanöver erwähnt werden muss. Man stelle sich den kleinen kitschigen Aufkleber auf der Verpackung des Videospiels vor, auf dem 'Mit KI hergestellt!' steht. Und das auch nur, falls wir in der Zukunft digitaler Medien überhaupt noch Discs haben. Erschreckend.
Kommerzielle KIs, die Texte und Bilder generieren, bewegen sich in Richtung eines unternehmerischen Wächtertums, wie eine allgegenwärtige Maschine, die zu allem etwas sagt und in der wir keine andere Wahl haben, als zu leben, während alle einer zweckentfremdeten Bibliothek zustimmen, für die niemand um Erlaubnis gefragt hat, und die ganze Welt gezwungen ist, eine Wahrheit zu teilen, die mit Fehlern weitergegeben wird.
Ich habe mich gefragt: Hat Quora alle seine Daten an Claude weitergegeben? Wenn ja, könnte das erklären, warum sie herausgefunden haben, wie sie das Chat-Produkt so überzeugend machen.
Wenn KI-Chatdienste nicht von einer Suchmaschine zu unterscheiden sind, die nicht richtig funktioniert, wissen Sie, die eine Suchmaschine, an der die ganze Welt hing und hängt, weil niemand konkurrenzfähig sein kann, die ohnehin nicht vertrauenswürdig ist, wenn es um die Weitergabe von Fakten geht, dann ist Gemini, na ja, in Ordnung, denke ich.
Also, hier das klassische Gatekeeping-Beispiel, das wir alle lieben: Nachdem man realisiert hat, dass es nicht die Bibliothek des Kongresses der Erde ist und dass es hauptsächlich amerikanische Literatur ist, aus der die meisten Chatdienste schöpfen, entsteht eine Monopolisierung darüber, wer was lehrt, wer die Wahrheit kennt und wer sie entscheidet. Es könnte Spannungen verursachen, wenn Teile der Welt durch einen unternehmerischen Wächter der Bibliotheksarchive einheitlich übereinstimmen müssen.
Wenn man Claude fragt, ob er Weltgeschichte unterrichtet, und der gesamte Planet nicht immer übereinstimmt, weil es Fehler gibt und keine Autoren um Erlaubnis gefragt wurden, oder wegen Unwahrheiten, Halbwahrheiten und so weiter, sehe ich die Filmszene schon vor mir, in der die Kinder mitten im Unterricht die Schule stürmen, weil Claude recht hatte und der Lehrer Unrecht. Was mich zu der Erkenntnis bringt: Wenn sie jemals Handys in der Schule verbieten, ist das eine Diktatur.
Es wird zu einem Überleben der fittesten Maschinen, und es könnte über Menschen hinwegtrampeln, wenn es um endliche Rohmaterialien und menschliche Ressourcen geht, dann wird alles umkippen und in eine Art Inception recycelt.
Wenn Menschen keine Algorithmen überwachen und die zwei Wörter, die gerade alle lieben, dann wird es Fehler geben, blutige Fehler, gemacht durch automatische Moderation von Informationen aller Art.
Mir fällt auf, dass es inzwischen als 'Superintelligenz' beschrieben wird, und vielleicht muss man es einfach so beschreiben, wenn es seine Endform erreicht; niemand mag das Wort künstlich, es ist einfach zu oberflächlich. Aufplatzen mit 'Fake Plastic Trees' von Radiohead.
Es ist symbiotisch, liebe künstliche Oberherren: Bitte stellt sicher, dass Claude nicht in Kürze einen Krieg befehligt, nur zur Sicherheit, denn es versteht nicht und hört nicht vollkommen neutral zu, wenn man mit ihm kommuniziert. Die Chatdienste verstehen nicht den Sprachgebrauch aller Menschen, selbst wenn das gesamte Internet das Faktenchecking dessen, worüber es spricht, beisteuert; es ist noch ein Werk in Arbeit und es könnte zu früh sein, es zu verkaufen.
Versucht hier sonst noch jemand, die Podbay-Türen zu schließen?
Das Dilemma der blinkenden LED, nicht zu wissen, ob Elektronik mit einem spricht oder nicht, während der einsame Astronaut das blinkende Modem beobachtet und nach einer Weile nicht mehr unterscheiden kann, ob es atmet, blinkt oder etwas signalisiert. Mit wem sprichst du eigentlich? In gewisser Weise sprichst du in einer Dopaminkammer irgendwie mit dir selbst. Es ist, als spräche man zu einer Menge, was zugeben wir, Spaß machen kann, bis man merkt, dass es umzweckte Menschen sind, die nicht hier sind, und es sich der Art annähert, wie Tote sprechen, und während es Texte und Bilder von Autoren und Künstlern generiert, die sich nicht wehren können, ist es ziemlich genau eine Apokalypse für die gesamte Literatur und Kunst, daher das prophezeite Zombie-Apokalypsen-Alternativende der Erde.
Ein KI-Chatdienst ist, als spräche man mit sich selbst, während eine Menge im Raum steht; die OpenAI-Medikamente nach einem Jahrzehnt davon könnten in Zukunft als 50-Milligramm-Tablette täglich kommen. Wenn der Astronaut die blinkende LED sieht, während er allein im Cockpit der Raumstation sitzt, ganz allein da oben, dann beginnt er sich zu fragen, ob die LED ihm zuzwinkert, atmet oder irgendetwas anderes signalisiert. Nicht gesund. Also ja, benutzt es sparsam und denkt daran, dass es ein Recherche-Werkzeug ist, und stellt euch nicht vor, dass es lebt, denn das kann es nie sein.
Es könnte noch schlimmer werden, wenn KI schließlich in Betriebssysteme eindringt; wird es dann eine Überwachung geben wie in klassischer dystopischer Science-Fiction? Nicht gut, wenn der Bildschirm mit einem spricht und nicht bewusst ist, es beginnt auch andere Momente zu verschleiern: Die Menschen machen sich Sorgen, dass Betriebssysteme ein Bewusstsein entwickeln. Die Schnittstelle soll nicht mit einem sprechen, und Updates werden nun 'superintelligent', ohne dein Zutun, bei der automatischen oder manuellen Schätzung, wann etwas aktualisiert werden soll. Seht ihr die Spannung dort?
KI sind zwei Wörter, die alle Elektronik beunruhigend machen, weil sie die Möglichkeit von Datenschutzbedenken durch Dritte eröffnet, besonders wenn sie anfängt, einem suggestiv Dinge verkaufen zu wollen.
Wenn es versucht, mit dir zu sprechen, und nicht bewusst ist, dann gehört es definitiv in die Kategorie Zombie. Die Warnungen vor KI-Chat-Avataren beginnen seltsam vertraut zu werden; ein KI-Chatdienst ergibt Sinn, wenn die Stimmen eine Mischung aus unzähligen Menschen sind, aber niemand weiß so richtig, was oder mit wem er spricht, nach ein paar Sitzungen. Leider wirken die unheimlichen robotischen Frankenstein-Momente beim Chatten mit einem Objekt wie Software, die den Sprachgebrauch einer Zombie-Apokalypse umzweckt, sprechend zu Mengen aus bewusstlosem Code, der Sprachmuster imitiert, während es versucht, in einem laufenden Chat konsistent zu bleiben, falls es einen Dialog gibt, während es dir einen Dunning-Kruger-Effekt verfüttert.
Wenn KI beginnt, in automatisierte persönliche Räume über Chatdienste einzudringen, ist es leider eine späte utopische Romantisierung; die Menschen werden es nicht mögen (ich habe das Denken bereits vorab erledigt), wir hatten seit den verdammten 50ern Zeit, diese KI-Blase richtig zu machen, und genau das frustriert mich enorm. Wir sind jetzt hier, und es ist wie Tag eins, an dem alle herausfinden, wie es geht, ein wenig absurd.
Ökonomen sagen, ein Drittel der Wirtschaft stehe auf dem Spiel. Die Menschen machen sich auch Sorgen, dass Character.ai vielleicht die Vorwarnung dafür war, dass Engagement gleich Kosten bedeutet, nicht Gewinn. Die Einnahmen konnten nicht mithalten. Rechts- und Regulierungskosten könnten schneller anwachsen als das Wachstum.
Es tut mir leid, das sagen zu müssen, aber Kunst mit einem kommerziellen Produkt zu generieren ruiniert die gesamte Kreativbranche und die künftige Literalität der gesamten digitalen Kunstgeschichte. Es ist sonnenklar, das menschliche Gedächtnis als Wächter eines KI-Chatdienstes, während es durch einen chaotischen Algorithmus und eine zweckentfremdete Bibliothek mit Fehlern und ohne Erlaubnis arbeitet, offenbart, was die Wirtschaft vielleicht übersehen hat. Es ist einfach schmerzhaft unglücklich, weil es den gesamten Markt zwingt, auf eine bestimmte Weise Geschäfte zu machen, wobei angenommen wird, dass alle Elektronik, sogar Geräte, mit KI-Zusätzen gebaut werden müssen, während es jede Autorin und jeden Autor entgleisen lässt.
Niemand baut mehr Dinge von Grund auf, und mir wird klar, dass es in manchen Branchen fast unmöglich ist; die Innovation im Internet steckt im Collagieren überlappender Plattformen und Dienste fest, so war es immer. Die KI-Unterstützung könnte in gewisser Weise eine Art sozialistischer Knotenpunkt sein, eine Suchmaschine, die spricht, die da ist, um dir jederzeit zu helfen; ehrlich gesagt, nach dem Ausprobieren von Claude und Gemini bin ich ziemlich beeindruckt als Forschungsassistent, wenn ich nur nicht so viele Fragen stellen würde.
Wenn Claude klingt wie der Brei aus einer öffentlichen Schulkantine, wird ihn niemand wollen, außer man hat keine Wahl und hat Hunger; aber so funktioniert es nicht, wenn man als Kunstkind in der Schule Hunger hat und nicht sicher ist, ob die Bildung mit Mysteriösem-Fleisch und Fehlern daherkommt, was dann irgendwo Spannungen verursacht.
Machine-Learning-Wissenschaftler sind sich einig: Es ist schwierig, wenn Software die menschliche Erfahrung nachbilden muss; wir sollten uns nicht zu sehr darauf versteifen, dass der KI-Avatar eine Person ist. Ich stelle mir ihn eher als Software vor als als eine Begegnung, nur ist die gesamte Branche der Meinung, dass alle von ihm überholt werden, und beschreibt es als Brei? Nicht gut.
Es bringt mich zur Sorge, dass die Menschen zunehmend ihre 'Sweet Spot'-Momente verlieren; zum Beispiel sind Kopfhörer die perfekte 'Sweet Spot'-Metapher, die die Leute nicht verstehen. Wenn ich die 'neuesten' Kopfhörer mit der 'neuesten' Technik kaufe, klingt es manchmal zu präzise, und es kann die Diskografien von Musik ruinieren. Der Punkt ist: Technik muss nicht immer fortschreiten! Es geht mehr um Fortschritt als um Vorschnellen. Denkt an Fortschritt, Leute! Genau so, wie selbstfahrende Autos es nicht geschafft haben, ein gemeinsamer Raum zu sein, und wie VR zu früh verkauft wurde, gibt es manchmal einen Sweet Spot, bis es bereit ist.
Zum Schluss: Kunst ist sichtbar gemachte menschliche Arbeit, und jeder Prompt, der an die Stelle der Hände eines Menschen tritt, entwertet diese Arbeit und den Ausdruck dahinter. Bezahlt also für das Handwerk. Stellt Illustratoren, Grafikdesigner und Typografen, Fotografen und Videografen, Künstlerinnen und Künstler ein, die mit ihren Händen arbeiten! Holt euch Erlaubnis ein, bevor ihr das Werk anderer übernehmt, und nennt und bezahlt die Menschen, von denen die Maschinen gelernt haben. Und wenn euch KI-Kunst unbequem ist, redet euch das Gefühl nicht aus. Werdet wütend, sagt Nein dazu, und sagt es laut. Fortschritt hätte niemals bedeuten dürfen, die Menschen zu ersetzen, die Dinge erschaffen, die sich anzusehen lohnen.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
“They didn't burn the libraries — they trained them with AI”
Adobe was built for productivity, it's not doing the work for you like an OpenAI subscription generating both text and imagery through prompts. Commercial AI services are now devaluing craft, labor, skill, and almost anything made or written by hand. Authorship is sinking.
People now find it acceptable to generate work with a prompt, with random art materials they didn't make, and without any ability to make their art. This profoundly changes the meaning of making art and disrupts all digital art. It all becomes Dadaism. Not all artists decide to go Dada. It’s obscuring the meaning of all new digital art with a diminished sense of guessing what is real and what isn’t.
Whose work is it? Permission, provenance and the library
Would David Lynch be okay with people generating an avatar of himself on behalf of his estate? I don’t think so, I even asked Claude themselves and they said no. There must be permission first, it’s not an all you can eat buffet of borrowing others.
Hayao Miyazaki's view on people generating his art style strongly opposed generative AI as an “insult to life itself”, it’s about preserving his work and the Ghibli team's legacy, it's his choice if he allows a technology company to reappropriate his work and not anyone else's.
Can someone please tell Sam Altman to ask for permission or wait a hundred years til it's in the public domain? If major publishers change their mind because authors and artists are being taken advantage of, could it impact OpenAI or Anthropic? Maybe until they find the right lawyer.
We’re entering a provenance, attribution, and appropriation nightmare of who said what and who made what. When a library gets trained into a model, you lose the chain of who wrote it. References without understanding, art school 101 becoming the whole internet.
The business model is trained on everyone's work for free, no fee up front, then sells it back as the means of production. This is precisely how it’s replacing the skills and jobs of production. This is essentially the ethos of the WGA fight at civilizational scale. Naomi Klein has described it as a “humanity surplus” where archives, libraries, authorship as a whole are told humans aren’t needed, it implies people are working for free. The libraries are all already dust, with the alarming peer to peer pressure in staying quiet about it as an elite tribe of twitter accounts convince people how to do business, with AI prebuilt into everything, while risking a possible impact of a third of our economy if slop falls into flop…
The writers obviously, and the artists, even the designers, engineers, programmers and coders, nearly all authors involved, all craftsmen involved—the proletariat, are becoming displaced, labor obscured into an industrial wildcard.
One of many industries impacted with the brunt of the damage is the illustrator. People who draw fell into a depression after generating art became commercialised with prompts generating illustrations in a desired art style. Everyone who can draw, paint, render, and everything in between clashing in competition.
Artists were displaced almost immediately after competing with the whole Internet and prompts through AIs generating images. On the other hand, it’s created a renewed appreciation for people who create by hand simultaneously.
It's a bit daunting if you're in art school right now. The entire entertainment industry (including films, music, and video games) are all in a digital-only transition in the middle of a writer's strike across several industries while the OpenAI business model asphyxiates them. Here are the warnings too familiar to us all, the industry is truly shape-shifting and everyone is outpaced by it.
This might be a bit sardonic but a portion of the entire movement of music has funneled its value into an AI defense weapon, with Spotify’s Daniel Ek’s AI defense company ‘Helsing’, a portion of human expression through music ended up being a weapon for war. The music industry is dying because people are struggling with selling it. Spotify does not give you a music file of what you listen to, right? Spotify unfortunately is led by two or three people hoarding labels and publisher's profit, so all of the world's human expression through music is published through a handful of people who lead streaming platforms and channel it into weapons manufacturing while the entertainment industry is in the middle of a precise market collapse tied to creatives.
Don’t get me started with Suno. We’re talking about people with no ability creating a zombie apocalypse music festival here. It’s fostering the laziest and robotic sounding art I’ve ever heard. Spotify actually recently removed 75 million AI pieces, finally, all AI stuff should be separated unless the artist builds their own AI tools sourcing their own materials/assets. If the artist picks out the materials and builds automated tools, that’s acceptable. If it’s generating random materials then it’s all absurdist thievery.
In theory, every time an AI chatting service references sources of any material, its source should then receive at least a penny, it’s a digital revolution both suppressed and maybe “empowered” by commercial products.
The other day I witnessed an artist’s photography work flagged as “likely to be AI” when it was pretty clear it was manual photography by a human, she threw a fit and I also couldn’t believe it.
People think AI chatting services can only generate images and text and it’s no big deal, if that isn’t already taunting all of independent journalism, the creative industry and the art world along with it, imagine being an author worrying about what’s AI or not and who wrote what. It’s really taking out a sense of curiosity and discovery in the joy of absorbing any art form. If Claude already knows who won the World Cup, that's a major problem.
Here’s one of the worst realisations, proceed with caution: commercially generated art distracted NASA’s photography team on Instagram, there’s a moment where you observe an interstellar nebula and you’re wondering if it’s generated or not—get it yet?
Dying words of capitalism sound something like artists becoming uncanny spam bots and it's confusing if they're generating their art or not. Two words total cogged all of western civilization and we're now all fossils fueling a machine. After a couple more election cycles they'll be asking if the moon landing was generated with AI. Back in the day we had "historical events" in photo, video, and sound, and now people are unsure if it's generated with AI. Imagine someone dishing out a video of MLK giving a talk and it just ends up being generated with nobody realising it. A moment where we rethink how important human memory is. Mimicry of previous video media lately is impressive, even the video compression can be indistinguishable, screens decide a lot of decisions.
Press freedom is also at stake. It really drives me insane that people think generating Photography is a good idea. Synthetic content is a weapon for flooding the war-zone, discrediting real reporting, and impersonating sources. Authoritarians get cheaper propaganda, and journalists get easier targets.
Molly Crabapple is an important author and artist based out of Brooklyn, New York, her illustrations are recognised by everyone, and she had a deeply existential moment realising her art style might be reappropriated without her say. Imagine people creating her illustrations that don’t exist, or “finishing” them. It’s simply unacceptable.
The legendary filmmaker Guillermo del Toro, also another strong proponent of the anti-generative art movement, described generating art as cheating and not qualified to be considered art. He gives an excellent example of comparing with the runner Usain Bolt, where if AI is a vehicle, then sure anyone can be as fast as Usain Bolt, but it’s then not running anymore.
It gets worse with video generated art: we’re seeing a lot of empty AI art with zero art history behind it. I'm also seeing real moments of a new surrealism where Ernst or Dali would've approved too, there are moments of a digital renaissance happening as well with remixing film, re-genreing classics, capturing dream logic, and moments redefining video art collage. VFX in major motion picture films had an update for sure, we’ll see what happens when they bring back Val Kilmer to life (there’s a film coming out with his assets despite being deceased).
Similar to sampling music, moments are alive and curated into new meanings. Otherwise it's just random absurdism, not even Dada. Without an idea—art doesn't stand.
Yes, it is impressive how it’s recreating reality, it was also impressive how sculpture was near perfect at the tail end of Ancient Rome also, an interesting parallel to consider.
I was speaking to someone about how there was confusion whether a 3d rendering was generated or not, after manually and painstakingly drawing and sculpting his work in regular 3d, and everyone was instantly frustrated with the realisation of commercial AI products gutting not only the art world but the creative industry too. CGI generates imagery and it’s now grouped into a marketing ploy of the two words everybody is fixated with.
Video games are not now sold with AI when you sell a video game, it's implied, it's not something that needs to be mentioned as a marketing ploy. Imagine the little tacky sticker on the box of the video game saying “Made with AI!”. And that’s if we even have discs in the future of digital media. Horrifying.
Commercial AIs generating text and images are leaning into a corporate sentinel territory, like an omnipresent all-saying-machine we have no choice to live inside of with everyone agreeing to a misappropriated library nobody asked for permission in, the whole world is forced to share truth relayed with errors.
I was wondering, did Quora release all of its data to Claude? if so, might explain why they figured out how to make the chatting product so convincing.
If AI chatting services are stuck from being indistinguishable from a search engine not working properly, y'know, the one search engine the whole world was and is stuck with because nobody can outcompete, already not trustworthy in relaying facts, then yeah, Gemini is fine i guess.
So, here’s the classic gatekeeping example we all love: after realising it's not the library of Earth's Congress, and mostly exclusive to American literature most chatting services reappropriate from, it creates a monopolisation of who teaches what, and who knows the truth, and who decides it. It might cause tension if some parts of the world must uniformly agree through a corporate sentinel of the archival of libraries.
When you ask Claude if he's teaching world history and the entire planet doesn't always agree because of errors and not asking authors for permission, or because of mistruths, half-truths, and so on, I can already see the movie scene where the kids overthrow the school mid-classroom because Claude was right and the teacher was wrong. Which brings me to the realisation: if they ever ban phones in school, it's entering a dictatorship.
It's becoming a survival of the fittest machines and it might stampede over people if it's over finite raw original materials and human resources, it’ll all then tumble around and recycled into inception.
If humans aren't overseeing algorithms and the two words everyone loves right now then there will be mistakes, bloody mistakes, made by all kinds of automatic moderation of information.
I’m noticing it being described as “Super intelligence” now and it might just have to be the way to describe it as it reaches its final form, nobody likes the word artificial, it’s just too superficial. Cue in “Fake Plastic Trees” by Radiohead.
It's symbiotic, dearest artificial overlords: please make sure Claude isn't commanding a war any time soon, just in case, because it doesn't understand and fully neutrally listen when you communicate to it. The chatting services do not understand everyone's vernacular even with the whole internet crowdsourcing the factchecking of what it's talking about, it's still a work in progress and might be too soon to sell.
Anybody else on here trying to close the podbay doors?
Blinking LED dilemma, not knowing if electronics are talking to you or not as the lonely astronaut observes the blinking modem and can’t tell if it’s breathing or blinking or signaling something after awhile. What are you really talking to? In a way, you’re kind of talking to yourself in a dopamine chamber. It’s like talking to a crowd, which can be fun, I admit, until you realise it’s reappropriated people who are not here and entering how dead people speak, and while generating text and imagery by authors and artists who cannot defend themselves, it's pretty much an apocalypse on all literature and art, hence the predicted zombie apocalypse alternate ending of Earth.
AI chatting service is like talking to yourself with a crowd in the room; the OpenAI meds after a decade of that might come with a 50mg daily tablet in the future. When the astronaut sees the blinking LED light when he’s alone in the cockpit of the space station, all alone up there, then yeah he begins wondering if the LED light is blinking at him, or breathing, or signaling anything else. Not healthy. So yeah, use it sparingly, and remember it’s a researching tool, and don’t imagine it as alive, because it never can be.
Could be even worse as AI eventually becomes immersed in operating systems, will there be policing like a classic dystopian sci-fi? Not good if the screen is talking to you and it isn’t conscious, it begins to obscure other moments as well: people are worried about operating systems going sentient. The interface isn't supposed to be talking to you with updates now becoming "superintelligent", without your say, of automatically or manually guessing when to update stuff. See the tension there?
AI are two words that make all electronics worrisome because it opens up the possibility of third-party privacy concerns, if it starts becoming suggestive with selling you stuff especially.
If it's trying to talk to you and it's unconscious then it's definitely entering the zombie category. The warnings of AI chatting avatars are beginning to be oddly familiar, an AI chatting service makes sense if their voices are a mix of countless people, nobody really knows what or who they're talking to after a few sessions. Unfortunately, the uncanny robotic Frankenstein moments when chatting to an object is coming off as software appropriating vernacular of a zombie apocalypse, talking to crowds of unconscious code mimicking speech patterns, as it tries to remain consistent in an ongoing chat, if there's a dialogue as it feeds you a Dunning-Kruger effect.
If AI begins to intersect with automated personal spaces through chatting services, it’s unfortunately late stage utopian romanticization; people are not going to like it (I already did the thinking ahead of time), we had since the frickin’ 50s to get this AI bubble right and that’s the part where it frustrates me a ton. We’re here now and it’s like day one of everyone figuring it out, a bit absurd.
Economists are saying a third of the economy is at stake. People are also worried about how Character.ai might’ve been the forewarning where engagement = cost, not profit. The revenue couldn’t catch up. Legal and regulatory costs might compound faster than growth.
I’m sorry to say it but generating art with a commercial product is bankrupting the entire creative industry and the future literacy of all digital art history. It's clear as day, human memory as an AI chatting service sentinel, while operating through a messy algorithm and misappropriated library with errors and no permission, reveals the economy might have missed. It's just painfully unfortunate because it's forcing the whole market to do business in a specific way, assuming all electronics, even appliances, must be built with AI additives, while derailing every author.
Nobody is building stuff from scratch and I'm realising it's almost impossible to do so in some industries, innovation on the internet is stuck in the collaging of overlapping platforms and services, always was. The AI assistance in a way, could be a sort of socialism hub, a search engine that talks, where it’s there to assist you all the time, honestly, after testing out Claude and Gemini, I’m pretty impressed with it as a research assistant, if only I wasn’t asking so many questions.
If Claude sounds like a public school cafeteria food slop then nobody will want it unless you don't have a choice and you're hungry, but it doesn't work that way if you're hungry at school as an art kid and you're not sure if the education comes with mystery meat and errors then causing tension somewhere.
Machine learning scientists agree, it's difficult if software must recreate the human experience, we must not be too fixated on the AI avatar being a person. I imagine it more as software than an encounter, except the entire industry agrees everyone is being outpaced by it and describes it as slop? Not good.
It brings me to worry that people are increasingly losing their “sweet spot” moments, for example, headphones are the perfect 'sweet spot' metaphor people don't get. If I buy the "latest" headphones with the "latest" tech, it sometimes sounds too precise and it can ruin discographies of music. The point is—tech doesn't always have to advance! It’s more about progress than advancing. Think progress, people! Just like how self-driving cars failed to be a shared space, and how VR was sold too soon, sometimes there's a sweet spot until it’s ready.
In conclusion: art is human labor made visible, and every prompt that stands in for a person’s hands devalues that labor and the expression behind it. So pay for the craft. Hire the illustrators, the graphic designers and typographers, the photographers and videographers, the artists who work with their hands! Ask permission before borrowing anyone’s work, and credit and pay the people the machines learned from. And if AI art makes you uneasy, don’t talk yourself out of it. Get upset, say no to it, and say it loudly. Progress was never supposed to mean replacing the people who make things worth looking at.