Meine Sicht auf generative KI

Generative KI

Als generative KI bezeichnen wir Systeme, die auf Basis von Benutzereingaben neue Inhalte generieren. Das können Texte sein, Bilder oder heute auch Videos, 3D-Modelle und vieles mehr. Solche Systeme haben sich so weit entwickelt, dass sie ganze Workflows selbstständig abwickeln und in den richtigen Umgebungen als Assistenz oder sogar als Entwickler arbeiten können.

Kontroverse

Natürlich wird generative KI deshalb heftig diskutiert. Einerseits kann sie uns die Arbeit einfacher machen, andererseits hat der Boom extreme Schattenseiten. Das verstehe ich. Und es gibt sehr viele valide Punkte und Meinungen, die man in dieser Diskussion beachten muss.

Programmieren

Pro: Als Softwareentwickler muss ich nicht mehr so viel Boilerplate schreiben. Die Stellen, die immer dieselben sind und immer kopiert werden müssen, werden von der KI geschrieben. Ich muss mich nicht mehr in jede Bibliothek und Funktionsweise einarbeiten, die ich verwenden möchte. Das beschleunigt meine Entwicklung stark.

Contra: Ich muss mich nicht mehr mit meinem Code beschäftigen und ihn in der Tiefe verstehen. Man wird schlampig und kontrolliert seinen Code nicht mehr komplett. Muss man das überhaupt noch? Wer steht für Fehler gerade?

Kreativität

Pro: Ich kann meine Gedanken und Vorstellungen einfach visualisieren und meinen Ideen ein „künstlerisches Outlet“ bieten.

Contra: Dafür haben Menschen jahre- oder jahrzehntelang geübt, trainiert und ihren Stil gefunden, nur damit dieser jetzt kopiert werden kann.

Sicherheit

Pro: KI kann meine Software sicherer machen.

Contra: KI kann Sicherheitslücken finden, ausnutzen und schlechtgesinnten Individuen zugänglich machen.

Wissen

Pro: Es ist einfacher denn je, Antworten auf komplexe Fragen zu finden und sie so erklärt zu bekommen, wie es zu einem passt.

Contra: Es ist schwer herauszufinden, was davon wirklich stimmt. Sogar manche Quellen, die legitim erscheinen, können vollkommen von KI erfunden sein.

Bilder

Pro: Ich kann sehr einfach Bilder bearbeiten und anpassen.

Contra: Was ist denn heute noch echt? Und: Oft sehen diese Bilder furchtbar aus und haben Fehler.

Effizienz

Pro: Ich bin effizienter und schaffe mehr.

Contra: Dann kann man ja auch meine Arbeitszeit einsparen und Stellen streichen. Und: Es wird nicht nur einfacher. Die Aufmerksamkeit verlagert sich. Anstatt konzentriert an etwas zu arbeiten, muss man ständig eine Flut von Output sichten, kontrollieren und verstehen. Das ist nicht einfacher, wenn man dabei eine Geschwindigkeitssteigerung erwartet. Wirklich nicht. Auch eine Studie aus Berkeley kommt zu dem Schluss, dass KI die Arbeit nicht reduziert, sondern verdichtet.

Und noch ein paar ganz dicke Contras:

• Die Trainingsdaten wurden genutzt, ohne um Erlaubnis zu fragen. Anthropic hat sich deshalb mit Autoren auf 1,5 Milliarden Dollar geeinigt, weil es raubkopierte Bücher für das Training heruntergeladen hatte.
• Speicher-Hardware ist wegen KI kaum noch bezahlbar.
• Der Energiebedarf von Frontier-Modellen ist enorm. Die IEA rechnet damit, dass sich der Strombedarf von Rechenzentren bis 2030 verdoppelt.
• Rechenzentren nehmen oft keine Rücksicht auf Anwohner oder Umwelt.
• Das Internet ist geflutet von KI-Inhalten. Viele davon absoluter Müll oder dazu gemacht, Leute hinters Licht zu führen und auszunehmen. Das Schadenspotenzial ist enorm.

Man kann diese Liste ewig weiterführen. Ich will nur klarmachen: Es gibt für viele Punkte mehrere Sichtweisen. So sehr ich den Hass mancher Menschen auf KI verstehe, sehe ich das Ganze doch relativ differenziert.

Menschen lernen auch von dem, was sie sehen, hören und lesen. Der gesamte künstlerische Prozess ist von Nachahmung geprägt. Und davon, das Gesehene im eigenen Stil wiederzugeben. Der Stil? In den meisten Fällen setzt er sich aus verschiedenen Teilen zusammen, die von Vorbildern der Künstler stammen. Und das ist auch okay. Direkte Kopien sind nicht gern gesehen. Künstlerische Interpretationen sind okay.

Wie ich KI heute nutze

Ich arbeite beruflich und privat mit KI, um zu programmieren, zu recherchieren und Texte zu überarbeiten.

Ich liebe lokale KI. Modelle, die ich auf meiner eigenen Hardware verwenden kann. Das ist günstiger (vorausgesetzt, man hat die Hardware bereits), ich gebe meine Daten nicht heraus, und ich kann experimentieren und lernen, wie die Systeme eigentlich funktionieren. Trotzdem sehe ich ein, dass die State-of-the-Art-Modelle deutlich mehr können, und nutze sie auch viel. Aber bei lokaler KI versuche ich, immer am Ball zu bleiben und so viel wie möglich herauszuholen.

Für Bilder verwende ich sie kaum. Ich finde die Technik dahinter faszinierend. Aber oft sind Ideen und Stile, die man online findet, einfach nur geklaut und sehen nach Slop aus. Offensichtliche Fehler, uninspiriert, langweilig, alles sieht gleich aus.
Ich experimentiere gerne damit. Und es gibt in meinen Augen auch sinnvolle Anwendungen dafür. An einer davon habe ich sogar mitarbeiten können. Aber ich verstehe die Abneigung. Je mehr ich damit gearbeitet und je mehr ich davon gesehen habe, desto abgeneigter bin ich doch wieder geworden.

Und ja, wenn ich State-of-the-Art-Modelle privat verwende, schaue ich oft auch nicht mehr genau auf den Code. Sie sind so gut geworden, dass ich mich meistens darauf verlasse, dass es stimmt. Das kann ich im Job nicht mit meinem Gewissen vereinbaren, weil jemand dafür geradestehen muss. Und das bin im Zweifel ich. Aber auch da lese ich den generierten Code oft nur noch durch, wenn alle Tests grün sind, und merge dann. Und das ist immer noch deutlich mehr, als viele andere tun, fürchte ich.

Die Zukunft

Ich glaube nicht, dass LLMs the be-all and end-all sein werden. Ich denke, damit hat Yann LeCun absolut recht. Und ich hoffe, dass wir Modelle erfinden werden, die Logik wirklich abbilden können. Die momentane Transformer-Architektur rät nur, das wissen wir alle. Nicht falsch verstehen: Aktuelle Modelle raten so gut, dass sie menschlich wirken, teilweise schlauer sind und auch deutlich mehr wissen als viele von uns. Trotzdem folgen sie keiner wirklichen Logik.

Was mich begeistert

Im Gymnasium haben wir von einer Zukunft geträumt, in der man sich wirklich mit Computern unterhalten kann. Und darüber, was die Singularität ist und was dann passieren wird. Jetzt leben wir darin. Und ich weiß nicht, ob ich davon begeistert oder erschrocken sein soll. Dennoch: Wir sind jetzt, wo wir sind, und müssen damit umgehen, so oder so.

Es fasziniert mich immer noch, wie wir auf diese ganze Technologie gekommen sind. Wie lange es gedauert hat, bis wir wirklich effizient damit rechnen konnten. Aber auch hier ist natürlich nicht alles Gold, was glänzt.

Was mich stört

Viele Punkte habe ich schon in der Liste oben genannt. Gerade die Frontier-Labs wie OpenAI und Anthropic fahren eine sehr zweigleisige Masche: „Wir bauen die gefährlichste Technologie der Menschheit, wir können sie euch nicht einfach bereitstellen“, und zwei Wochen später: „Aber wenn ihr uns 100 Dollar im Monat zahlt …“
Und dennoch muss ich zugeben, dass man diese Qualität leider nirgendwo anders bekommt.

Oder dass sie alle Trainingsdaten einfach ungefragt aus dem Internet gezogen haben, sich dann aber darüber aufregen, wenn andere Labore von ihren Modellen lernen bzw. sie destillieren.

Oder Menschen, die Inhalte oder Stile einfach 1:1 kopieren, als ihre eigenen verkaufen und damit Geld verdienen, das ideell anderen zusteht.

Ich wünschte, man könnte sich noch Gaming-Hardware leisten, ohne beide Nieren verkaufen zu müssen. Die aktuellen Hardwarepreise sind jenseits von Gut und Böse. Dazu kommt die weltfremde Meinung mancher KI-Größen: Sam Altman findet es „quite terrible“, dass so viel RAM in privaten PCs steckt und dort nur 5 % der Zeit genutzt wird. Ich verstehe zwar, was er damit meint. Aber bei Gamern, die sich gerade keinen neuen Arbeitsspeicher mehr leisten können, kommt das einfach nur als Spott an. Als Gamer und PC-Enthusiast finde ich das mehr als furchtbar und wünschte, es wäre anders.

Aber besonders stört mich, wie sehr Umwelt und Menschheit belastet werden. Nicht mal durch Menschen, die die Technologie verwenden. Ich bin einer davon. Sondern durch automatisierte Slopfarmen, die oft schlechten, irreführenden und schädlichen Content generieren und damit auch noch das Internet fluten. Am Ende wird es weniger sinnvollen Inhalt geben als das. Und je nachdem, in welcher Bubble man lebt, ist das schon längst der Fall.

Und dann ist da natürlich noch das Problem der KI-Psychose. Menschen, die sich von KI (oft Chatbots) zu Vorstellungen oder Denkkonstrukten verleiten lassen, die fern der Realität sind. Wahnvorstellungen, die durch die KI nur verschlimmert werden. Im Prinzip agieren die Systeme wie eine Echokammer, die solche Vorstellungen verstärkt. Wenn man in der Materie steckt und weiß, wie die Systeme funktionieren, ist man vermutlich nicht so anfällig dafür. Aber besonders Menschen, die beeinflussbar sind, kann so etwas wirklich stark treffen und zu bösen Konsequenzen führen.

Dead Internet und Dark Forest

Die Dead Internet Theory besagt, dass das Internet nur noch von Bots für Bots betrieben wird. Früher eine Verschwörungstheorie, heute gar nicht mehr so weit hergeholt. Laut Cloudflare kommen inzwischen mehr Anfragen von Bots als von Menschen. Und sogar Sam Altman meint, dass es wirklich viele von LLMs betriebene Accounts gibt.

Dazu passt die Dark Forest Theory von Yancey Strickler aus 2019. Der Wald wirkt leer, weil sich alle verstecken. Im Internet vor Werbung, Tracking und Trollen. Also ziehen sich Menschen in kleinere, private Räume zurück. Maggie Appleton hat das 2023 weitergedacht: Generative KI lässt diesen Wald noch schneller wachsen. Je mehr generierter Content die öffentlichen Ecken flutet, desto mehr verschwinden echte Menschen in Discord-Server, Newsletter und kleine Blogs. Ein bisschen ist dieser Blog wohl genau das.

Was komplett schiefläuft: der Arbeitsmarkt

In einer guten Timeline wären wir in einer Welt, in der sich Jobs verändern und KI als Arbeitsunterstützung verwendet wird. Um Menschen effizienter zu machen und ihnen dabei zu helfen, ihre Aufgaben zu erfüllen. Teilweise passiert das auch. Mein Job hat sich verändert. Aber als Senior Software Engineer ist meine Erfahrung immer noch Gold wert. Und hoffentlich bleibt das auch noch eine Weile so.

Allerdings leben wir nicht in einer idealen Welt. Manager und Entscheider denken immer öfter, dass Mitarbeitende nun einfach eingespart werden können, denn sie sind ja Kostenstellen. Menschen werden stattdessen durch KI-Systeme ersetzt. Nur weil man effizienter wird, werden die Aufträge ja auch nicht mehr. Besonders nicht in dieser angespannten wirtschaftlichen Lage.

Ob es klug und vertretbar ist, Entscheidern die Werkzeuge in die Hand zu geben, um Arbeit zu machen, für die man eine Spezialisierung braucht, sei mal dahingestellt. Aber wer soll in den kommenden Jahren die Positionen der Spezialisten einnehmen, wenn man der Folgegeneration nicht mehr die Chance gibt hineinzuwachsen? Bei Berufseinsteigern in KI-nahen Jobs ist das schon messbar.

Und nur um das klarzustellen: Ich rede nicht von meinem vorherigen Arbeitgeber. Dort wurde gerade darauf noch Wert gelegt. Aber das ändert die wirtschaftliche Gesamtlage leider nicht.

Ich wünschte mir einfach, dass hier mehr mit Sinn und Verstand gehandelt würde und nicht alles von purem Kapitalismus getrieben wäre.

Warum lokal und offen

Ich bin jemand, der es schätzt, die Hoheit über seine Daten zu haben. Ich möchte auch nicht all meine Informationen an ausländische Firmen geben, die damit teilweise machen können, was sie wollen. Selbst wenn man ihnen wirklich vertrauen kann, besteht immer noch das Risiko, dass sie gehackt werden und meine Daten abfließen. Das haben wir in der jüngsten Vergangenheit leider zu oft erlebt. Natürlich sind Selbsthoster genauso gefährdet. Jeder Computer kann durch Viren oder Sicherheitslücken kompromittiert werden. Aber die Angriffsfläche ist anders, und ich bin selbst dafür verantwortlich.

Zu guter Letzt weiß ich, dass ich lokale Modelle bei mir betreiben kann, komme, was wolle. Sollte jemand beschließen, dass Modelle von OpenAI und Anthropic in der EU heftig besteuert oder gar gesperrt werden müssen, kann ich immer noch mit meinen lokalen Systemen arbeiten und habe keinen Totalausfall.

Ist das hier Slop?

Wie schon im Kasten auf der Startseite beschrieben: Ich versuche, meine Ausgangstexte (zumindest in einer Sprache) komplett selbst zu schreiben. Unter jedem Beitrag ist vermerkt, was wie zustande gekommen ist.

Viele meiner eigenen Projekte, die ich hier teilen werde, sind vermutlich mit heftigster KI-Unterstützung entstanden. Auch das werde ich klar beschreiben. Aber ich habe einen hohen Qualitätsanspruch an alles, was ich mache. Besonders, wenn es nicht nur kleine Tools sind. Und ich hoffe, das merkt man.

Weder schwarz noch weiß

Ich denke, man muss das Beste aus dem machen, was wir momentan haben. Ich würde mir wünschen, dass wir Systeme schaffen können, die weniger Energie und Rechenleistung benötigen. Systeme, die logisch „denken“ können und nicht nur Wörter vorhersagen.

Leider denken viele Menschen, besonders die Betroffenen, nur in Schwarz und Weiß. Ich habe diese Diskussionen schon oft geführt und bin es ehrlich gesagt leid, mit manchen darüber zu reden. Ich verstehe sehr gut, dass diese Punkte deutlich schwerer wiegen, wenn man selbst von einem der Negativpunkte stark betroffen ist. Aber nur, weil in der Nähe ein Rechenzentrum gebaut wird, heißt das nicht, dass die ganze Technologie böse ist. Nur weil man seinen Job verliert, heißt das nicht, dass NUR die KI dafür verantwortlich ist.

Es ist nicht alles nur entweder gut oder böse. Es gibt so viele Aspekte, die wir oft aus den Augen verlieren. Ich möchte nur jede und jeden aus diesem Camp ermutigen, zu versuchen, über den Tellerrand zu schauen. Wir werden die letzten fünf Jahre nicht mehr rückgängig machen.

Also sollten wir versuchen, das Gesamtbild zu sehen und das Beste daraus zu machen.