künstliche Intelligenz – Transkript

Jonas 

Judyta, du hast doch schon häufig in diesem Podcast erzählt, dass du eigentlich einen neuen Rollstuhl haben möchtest, aber den immer wieder abgelehnt bekommst von der Krankenkasse. Gibt es da einen neuen Stand?

Judyta 

Es gibt einen neuen Stand und er hat mit künstlicher Intelligenz zu tun. Seid gespannt. 

Jonas 

Oh, das musst du gleich mal erzählen. Herzlich willkommen zu “Die neue Norm”, dem Podcast. 

Wir versuchen ja schon lange als Menschheit, sozusagen, endlich Inklusion umzusetzen und für weniger Diskriminierung in der Gesellschaft zu sorgen, aber so wirklich kommen wir nicht ans Ziel. Vielleicht, ich weiß es nicht, was uns da fehlt, ob es die Intelligenz ist? Auf jeden Fall möchten wir heute über künstliche Intelligenz reden und vielleicht darin eine Lösung finden, Inklusion umzusetzen. Oder aber, vielleicht kommen wir zu dem Schluss innerhalb des Podcast, dass das alles Quatsch ist, weil künstliche Intelligenz ja auch nur davon lebt – von den Sachen, die die Menschheit dieser Intelligenz mitgibt und was wir quasi dieser Intelligenz einspeisen. Darüber möchten wir heute reden. Bei mir sind Judyta Smykowski und Raul Krauthausen. 

Judyta  

Hallo.

Raul

Hi!

Jonas

Mein Name ist Jonas Karpa. Und wir sind heute nicht alleine an einem Tisch, sondern wir haben einen Gast bei uns, nämlich Sebastian Felix Zappe. Hallo. 

Sebastian Felix Zappe

Hallo.

Jonas 

Du bist auch Teil des Sozialheld*innen-Teams und bist dort Informatiker und Entwickler der “Wheelmap”, unserer berühmt-berüchtigten Onlinekarte für rollstuhlgerechte Orte und, ja, entwickelst die Karte immer weiter. Wobei ich mich dann frage: Eine Onlinekarte wo Orte sind, die markiert werden von einer Community und gesagt wird: Der Ort ist rollstuhlgerecht oder nicht… was muss man da eigentlich noch weiterentwickeln? 

Sebastian Felix Zappe 

Wir haben sehr, sehr viele Barrierefreiheitskriterien bei der “Wheelmap”, die diese Rollstuhlgerechtigkeit von Orten noch genauer definieren. Das heißt also, es gibt sehr, sehr, sehr viel mehr, was man über einen Ort wissen muss, um zu wissen, ob der für einen selbst überhaupt nutzbar ist – je nachdem, was man zum Beispiel für eine Behinderung hat. Da geht es dann nicht nur um Rollstuhlgerechtigkeit, sondern auch um sowas wie, zum Beispiel, taktile Leitlinien an Bahnhöfen oder um Gebärdensprachenübersetzung und noch viele weitere Themen und viele weitere Daten, die wir da sammeln. Und das ist so einer der Schwerpunkte, die wir momentan bei der Entwicklung haben, dass wir halt mehr Daten über die einzelnen Orte sammeln. Und ansonsten geht es auch darum, dass wir das Ganze so machen müssen, dass diese Daten eben auch für die Menschen, die sie brauchen, wirklich verfügbar sind, das heißt also die “Wheelmap” selbst, die könnte selbst einfach noch viel barrierefreier sein. Das sind so zwei der Schwerpunktthemen, die wir momentan haben bei der Entwicklung. 

Jonas 

Und wenn es jetzt um Datensammeln geht, das ist ja wein Community-basiertes Projekt – also quasi jeder, der die Wheelmap nutzt oder eben auch nicht benutzt, kann ja Orte markieren und diese Daten eingeben, das ist ja dann etwas, wo man das vielleicht auch in Zukunft erleichtern könnte, wenn man Hilfe von Computern, von künstlicher Intelligenz in Anspruch nehmen würde, oder? 

Sebastian Felix Zappe 

Ja, künstliche Intelligenz ist da wirklich ein wichtiges Thema, denn eines der Hauptprobleme beim Sammeln dieser Daten ist, dass das Sammeln dieser Daten einfach anstrengend ist. Also, das heißt, diese Daten zu sammeln, das dauert einfach und je mehr einzelne Details man über ein einzelnes Gebäude oder dessen Eingang oder dessen Räume aufnimmt, desto länger dauert das. Das heißt also es ist gar nicht so leicht, jetzt einfach mal die Gebäude einer ganzen Stadt zu erfassen. Die reine Information, ob man in diese Gebäude mit einem Rollstuhl oder mit einer anderen Behinderung reinkommt, das ist was, das kann man ja in einem Survey vielleicht in zwei, drei Minuten abfrühstücken. Aber wenn man jetzt wirklich in dieses Gebäude reingehen muss, durch alle Gänge und in alle Räume rein und die genau erfassen möchte, dann braucht das sehr viel Zeit. Und das ist auch einer der Gründe, warum es gar nicht alle Orte, die es zum Beispiel hier in Deutschland gibt, warum die gar nicht alle erfasst sind auf der “Wheelmap”, weil das einfach viel Zeit braucht und weil diese Zeit sich auch jemand nehmen muss und wenn es irgendeine Möglichkeit gibt, diesen reinen Zeitaufwand pro Ort zu minimieren und aber trotzdem sehr viele Details über die Gebäude zu sammeln, dann wäre das natürlich sehr hilfreich. Und ja, dabei kann uns auch Künstliche Intelligenz helfen.

Jonas 

Wie könnte das aussehen? Also ich mein, künstliche Intelligenz ist ja nicht irgendwie so ein so ein Roboter ähnliches Ding, was dann durch die Straßen läuft und immer dann, wenn es vor eine Bordsteinkante oder vor eine Stufe stößt sagt: Aah, hier ist irgendwie eine physische Barriere. 

Sebastian Felix Zappe 

Sehr schönes Beispiel dafür sind zum Beispiel Badezimmer und WCs. Von denen kann man einfach von der Tür aus ein Foto machen und dann kann man dieses ganze WC angucken. Aber wenn ich jetzt zum Beispiel eine blinde Person wäre, dann wäre das für mich nicht hilfreich, so ein Foto. Das heißt also, irgendjemand muss dieses Foto beschreiben, irgendjemand muss einen Text generieren, der beschreibt, was auf diesem Foto ist. Man könnte zum Beispiel sowas sehen wie: Da gibt es Klappstützen beim WC, die sind rechts oder links oder eben auf beiden Seiten oder wie das Waschbecken beschaffen ist oder ob da überhaupt Platz ist in der Toilette. Also, ob man da mit einem Rollstuhl zum Beispiel wenden kann und all das sind zum Beispiel Fragen, die wir in Wheelmap als Survey haben. Aber diese Fragen auszufüllen, das dauert einfach und jeder Mensch, der mal Fragebögen ausfüllen musste und vielleicht nicht so Lust drauf hatte, der wird bestätigen, dass das irgendwie halt was ist, was auch nervig sein kann. Und wenn man jetzt zum Beispiel einfach nur ein Foto machen müsste – also man stellt sich einfach vor die Tür von so einem Raum und macht ein Foto – und es gäbe irgendeine Magie, die erkennen könnte, was auf diesem Foto genau zu sehen ist und die das genau und auch korrekt beschreiben könnte… wenn es das gäbe, dann wäre dieser Aufwand eben von mehreren Minuten verkürzt auf wenige Sekunden, in denen man nur ein Foto machen muss. Und das heißt also quasi, in der Zeit, in der ich normalerweise nur ein Badezimmer erfassen könnte, könnte ich dann vielleicht 50 Badezimmer erfassen. 

Jonas 

Ist es denn, sag ich mal, Raul, Judyta, für euch, die ihr im Rollstuhl unterwegs seid, vertraut ihr solchen KI-Systemen oder ist es immer noch so dieses Gefühl, wenn ein Mensch wirklich diesen Fragebogen ausgefüllt hat und mit bestem Gewissen durchgegangen ist, das ist vertrauenserweckender und eher an der Wahrheit heran, als wenn dann irgendeine KI das Bild analysiert und das dann auch irgendwie interpretiert.

Raul 

Also da ist natürlich immer auch ein Mensch dahinter gewesen, der diese KI programmiert hat und wie viele Situationen hat er oder sie bedacht beim Entwickeln dieser Lösung, dass mir das jetzt gar nicht so leicht fällt eine pauschale Antwort zu geben. Auf der anderen Seite denke ich auch, selbst eine halbe Information ist besser als gar keine Informationen und das ist eher der Standard, dass man nicht weiß, ob es eine rollstuhlgerechte Toilette gibt oder ob der Ort rollstuhlgerecht überhaupt ist, sodass dann vielleicht eine KI-Info, die vielleicht auch nicht ganz korrekt sein kann, immer noch besser ist als eben gar keine Info.

Judyta 

Ich bin da, glaub ich eher noch Team Mensch, weil ich bei der Wheelmap oder auch bei Google Maps, um jetzt mal einen Konkurrenten zu nennen, auch wirklich auf die Fotos gucke. Und die machen ja noch im Moment die Menschen. Die Menschen gehen da vorbei und machen ein Foto und dann kann ich entscheiden: Ist dieser Ort für mich zugänglich oder nicht? Und das ist gerade mein täglich Brot, wie ich durch die Welt gehe.

Sebastian Felix Zappe  

Die KI kann da auch wahrscheinlich genau die gleichen Fehler machen wie die Menschen, denn wenn die Menschen, die sie programmiert haben, zum Großteil keine Behinderung haben, dann achten sie einfach nicht so sehr auf diese Sachen wie die Menschen mit Behinderung. Also so der typische Fehler bei dem vorher genannten Badezimmer wäre ja: Da ist ne rollstuhlgerechte Toilette, die hat alle Features die so eine Rollstuhltoilette theoretisch nach DIN-Norm braucht, aber da steht halt ganz viel drin, aber vorne hängt trotzdem ein Schild, das da eine rollstuhlgerechte Toilette ist, die ist auch dort, man kann sie halt nur nicht benutzen, das ist nicht hilfreich. Aber eine KI könnte auf dem Foto auch eventuell eben eine Toilette als rollstuhlgerecht erkennen, die gar nicht benutzbar ist. Und das wäre ein typisches Beispiel, wo eben eine KI dann nicht unbedingt besser ist als jemand, der das vor Ort manuell surveyt. Das heißt, auch wenn wir sowas irgendwann mal einsetzen, dann müssen das wahrscheinlich auch Menschen validieren, was dann rauskommt dabei. 

Jonas 

Es gibt ja ganz viele Street View Fotos von allen Straßenzügen und es geht ja häufig nicht nur – du hast jetzt das Badezimmer angesprochen – aber es geht ja auch häufig eben darum, um diesen ersten Schritt hinein, also kommt man überhaupt in das Gebäude und diese berühmt-berüchtigte eine oder zwei Stufen am Eingang. Könnte man einfach diese Fotos auch dann zukünftig vielleicht von einer KI interpretieren lassen und dann selber Orte eben markieren nach diesem Ampel-System?

Sebastian Felix Zappe 

Ja, das könnte man tatsächlich machen, das wird tatsächlich auch schon gemacht, und zwar für KIs, die zum Beispiel von Google Street View und ähnlichen Projekten Panoramabilder auswerten für Autos. Also autonome Autos, das ist halt immer noch ein großes Thema und vor allem eines, wo auch sehr viel Geld drinsteckt. Das heißt also, es gibt sehr viel KI-Leistung, die momentan in dieses Thema reingesteckt wird, um zu erkennen, was eben für Autofahrer*innen und deren Fahrzeuge wichtig ist. Das heißt also, es gibt jetzt schon KIs, die mappen zum Beispiel, wo sich Gehwege befinden oder wo sich Ampeln befinden. Die mappen aber – da das eben für die Autofahrer*innen nicht so wichtig ist – zum Beispiel nicht, ob diese Gehwege abgesenkt sind oder nicht. Das ist was, was eine KI theoretisch erkennen könnte. Das heißt also: Ein Trainingsdatensatz da noch zu inkludieren, das wäre nicht mehr Arbeit, als diese anderen Objekte zu erkennen, die da erkennbar sind. Aber es hat einfach keiner gemacht, weil die Leute, die Auto fahren, denen ist das hauptsächlich nicht so wichtig wie es den Fußgänger*innen und den Rollstuhlfahrer*innen geht. 

Und das ist eben auch so eine Art von typischen Bias, den wir erleben, wenn wir KI-Datensätze angucken. Bias das ist eine Schieflage, das heißt, das ist eine Schieflage, die kann zum Beispiel sozialer Natur sein, und die kommt zum Beispiel daher, dass eben die Leute die Trainingsdatensätze machen, zum Beispiel zu einem Großteil weiß und männlich sind oder in anderen Fällen zum Beispiel sich einfach viel in Ländern befinden, in denen der Lohn für die Arbeit dieses Trainings sehr gering ist, also zum Beispiel in Indien. Dadurch entstehen dann gewisse Schieflagen, also das heißt, die Daten, die sagen eben dann was aus zu einem Großteil über die Leute, die das trainiert haben und nicht über die, die das nutzen. 

Jonas 

Also es schreit quasi auch danach, dass Menschen mit Behinderungen in der IT mitarbeiten und das mitentwickeln und auch diesen Fokus auf dann – in dem Fall – Barrierefreiheit und diese Belange von Menschen mit Behinderungen setzen. 

Sebastian Felix Zappe 

Ja, das ist super wichtig. Ich denke, dass diejenigen, die diese großen Sprachmodelle wie ChatGPT, die momentan zum Großteil verwendet werden oder über die momentan am meisten geredet wird, dass die tatsächlich ein Augenmerk darauf legen auf Diversität, weil diese Chatbots, die werden gebaut für ein Corporate-Umfeld. Die werden gebaut für große Firmen und man möchte natürlich nicht am Ende irgendwie verklagt werden, dafür, dass dieses Modell aus Versehen im Namen einer großen Firma jemanden diskriminiert hat. Und deswegen wird da Diversität grundsätzlich als Thema auch mit reingedacht, aber das heißt nicht unbedingt, dass Diversitätsgedanken dann von Menschen mit einer Behinderung oder eben von diskriminierten Gruppen kommen, sondern das sind, wer auch immer das entwickelt, der oder die macht das dann. 

Jonas 

Du hast gerade schon ChatGPT angesprochen. Judyta und Raul, seid ihr große Fans von KI im ganz Allgemeinen? Judyta du hast eben schon gesagt du bist Team Mensch?

Judyta 

Ja, wobei sich das auch so ein bisschen gewandelt hat in den Vorbereitungen für den Podcast. Am Anfang habe ich gedacht, so ja, ach, das ist irgendwas, womit ich mich vielleicht nicht mehr beschäftigen muss. Dann habe ich einen anderen Podcast gehört, und zwar den von Eva Schulz, “Deutschland 3000”, mit einem Lehrer-Influencer, Bob Blume heißt der. Und die haben natürlich auch darüber geredet, ne, wie ist das jetzt? Werden die Schüler*innen jetzt ihre Hausaufgaben mit ChatGPT schreiben? Und er sieht es einfach alles so ein bisschen gelassener und hat gesagt, okay, wir müssen uns damit beschäftigen. Punkt. Es ist da, wir müssen uns damit beschäftigen. Und das habe ich jetzt ein bisschen als mein Mantra übernommen und habe einfach gesagt, okay, ich beschäftige mich damit und Tada – es hat was gebracht. 

Jonas 

Du bist noch nicht so alt, dass du sagen kannst, dass ist irgendwie so ein Ding für die Jugend, das wird dich nicht mehr tangieren in deinem Leben. 

Judyta 

Ja… na ja, ich bin ja nicht Lehrerin oder so, ne, also so nicht. Aber als diese Maschine mir dann einen schönen Widerspruch für die Krankenkasse geschrieben hat, dachte ich so: Nehme ich mit, ne. Kann man ja mal machen.

Jonas 

Aber generell sag ich mal, wenn wir jetzt über über KI-Systeme und Computer sprechen, die Dinge erledigen – wenn wir jetzt nochmal das Beispiel der Wheelmap nehmen, wo man sagt, okay, man hat, sag ich mal Fotos und hat eine Datenquelle, nämlich dieses Foto, was gemacht wird, man reicht das sozusagen in die Maschine rein und die analysiert das und spuckt halt quasi gewisse Sachen aus. Dann weiß man ja: Was ist die Quelle – und die Maschine macht damit etwas. Aber bei ChatGPT hab ich immer so die Frage bei mir: Wer füttert das? Beziehungsweise woher nimmt dieser Bot, diese KI das Wissen? Weil, irgendwie, wenn man, ich sag mal, wenn man was googelt, dann weiß man, dass Google alle erdenklichen Webseiten, die es im Internet gibt, durchforstet nach den bestimmten Wörtern, nachdem man gesucht hat. Aber bei ChatGPT bleiben bei mir zumindest so ein paar gewisse Fragezeichen, wo die KI das Wissen hernimmt. 

Sebastian Felix Zappe 

Das ist auch sehr gut, dass da Fragezeichen sind, weil diese Fragezeichen sollten wir alle haben. Also, das erste wichtige bei dieser Sache ist, wenn wir jetzt über KI, also künstliche, sogenannte Intelligenz sprechen, dann muss man erstmal ein bisschen genauer hingucken – was ist das eigentlich? Also ChatGPT, was halt üblicherweise auch als KI bezeichnet wird – von, ich sag mal, “normalen Menschen”, das ist keine Intelligenz und die weiß auch nichts, sondern das ist ein sogenanntes Large Language Model, das heißt also das ist ein großes Sprachmodell mit einem ganz großen sogenannten Korpus. Und dieser Textkorpus, der wird dann statistisch analysiert und es wird halt genau hingeguckt, welche Wörter kommen besonders häufig im Zusammenhang mit anderen Wörtern vor, vereinfacht gesagt. Das heißt also: Dieser Text, der da reinkommt, der wird dann in sogenannte Tokens, nennt man das, gesplittet und die werden statistisch ausgewertet. Ein Token ist sowas wie zum Beispiel ein Wortstamm. Und diese zum Beispiel Wortstämme die kriegen dann noch Gewichtungen und diese Gewichtungen, die werden aber auch teilweise von Menschen dann festgelegt. Das heißt also, man füttert da einfach unglaublich viel Text rein – also, man kann sich das so vorstellen, wie man eben die Suchmaschine Google mit Text füttert, die sich einfach alles einsaugt, was sie kriegt – oder man füttert da eben auch Büchertexte rein oder irgendwelche Reden oder halt alles, was man an Text findet. Und dann wird aber von Menschen vorbewertet, welche Textquellen sollen welche Gewichtung bekommen. Und die Sache mit den höchsten Gewichtungen, die werden dann wahrscheinlicher. Das heißt also, es wird von Menschen weiterhin entschieden, was jetzt diese Maschine eher, ich sag jetzt mal nicht, als Wissen ansieht, sondern was sie in Zusammenhang mit dem Konzept von Wissen bringt. Das heißt also, Menschen bestimmen im Endeffekt immer noch, dass wahrscheinlich – würde ich mal annehmen – so ein Text, der bei Wikipedia steht, einfach eher von der Maschine als sogenanntes Wissen betrachtet wird als das, was in irgendeinem Blog von Marketingleuten geschrieben wird. Das heißt also, es muss irgendwie weiterhin davon ausgegangen werden, dass es solche Texte gibt, also, die auch wirklich Wissen enthalten. 

Jonas 

Hm. Wäre natürlich schön, wenn die KI häufig dann auch mal unseren Podcast “Die neuen Norm” hören würde, wenn sie denn hören kann, den es übrigens auch in der ARD-Audiothek gibt, um vielleicht mal ein paar andere Quellen irgendwie zu bekommen. Kann diese KI überhaupt lernen? Also wenn, wenn ich sie etwas frage – sollen wir es mal ausprobieren, was die KI zum Beispiel zum Thema, warum Menschen mit Behinderungen nicht diskriminiert werden sollten, irgendwie sagen würde?

Sebastian Felix Zappe 

Ja, das können wir gerne machen. Wir können ja einfach Chat GPT via Siri fragen, was das Modell davon hält: Warum darf man Menschen mit Behinderung eigentlich nicht diskriminieren? 

ChatGPT via Siri: 

Menschen mit Behinderung sollten nicht diskriminiert werden, da es ungerecht ist. Da die Menschen mit Behinderung wie alle anderen Menschen sind, sollten sie dieselben Rechte haben. Ungerechte Behandlung aufgrund einer Behinderung ist inakzeptabel und schließt die Betroffenen aus vielen Facetten des gesellschaftlichen Lebens aus. Wir sollten alle mit Respekt und Ehre behandelt werden und Diskriminierung ist in keiner Weise tolerabel. 

Jonas 

Ja, also grundlegend erstmal richtig…

Sebastian Felix Zappe 

Da würde ich jetzt einfach mal mitgehen. 

Jonas

Ja… natürlich sehr, sehr oberflächlich.

Sebastian Felix Zappe 

Ja, ziemlich. Das ist auch was, mir total oft aufgefallen ist. Also, ich habe ziemlich viele Tests einfach mit, vor allem, ChatGPT gemacht. Und was auf jeden Fall auffällt, ist, dass es so ein bisschen US-zentrisch ist, also zum Beispiel beim Thema Religion, da versucht es auf keinen Fall, irgendwie die Religionsfreiheit, also als das, was sie in den USA betrachtet wird, zu verletzen. Also, das würde auf keinen Fall was sagen gegen Scientology oder gegen die Zeugen Jehovas zum Beispiel. Und was auch auffällt, ist, dass es oft so ein bisschen was macht, was ich als Both-siding bezeichnen würde. Also quasi, das versucht immer so ein bisschen, so eine diplomatische Mitte zwischen allem zu finden und sehr, sehr konsensfähig zu sein. Genau wie so eine Marketingabteilung von so einem großen Unternehmen. 

Jonas 

Wenn wir zum Beispiel sagen würden das, was jetzt über das Thema Diskriminierung gesagt wurde, ist so … Ja, es ist grundlegend erstmal richtig, aber man möchte es gerne, dass in Zukunft vielleicht das noch ein bisschen deutlicher, oder ich will nicht sagen, radikaler gesagt wird, dass eben sag ich mal, zum Beispiel die UN-Behindertenrechtskonvention gibt. Und diese Informationen kamen jetzt gerade gar nicht. Kann ich dafür sorgen, dass das in Zukunft, wenn irgendjemand anders diese Frage stellt, das quasi in der Antwort mit drin ist?

Sebastian Felix Zappe 

Ja das klang ein bisschen so in Richtung: “Also wir nehmen die Belange von Menschen mit Behinderung sehr ernst, wir müssen die Barrieren in den Köpfen abbauen.” Dieses typische Zeug, was man die ganze Zeit hört. Ja, das wäre ganz gut, man könnte bestimmt auch so ein bisschen aktivistisches Wissen damit reinbringen. Also wenn ChatGPT einfach davon ausgehen würde, dass es mit irgendeiner sehr normalen, also statistisch normalen, Personen redet, dann ist die ja auch Empfänger von potenziell wichtiger Information, die eben über dieses relativ oberflächliche Gelaber hinausgeht, und dann könnte man ja direkt was mitgeben. Das fände ich toll, ja, das fände ich super wenn das so laufen würde. 

Raul

Aber wenn ich das richtig verstanden habe, ist die ChatGPT-KI nicht ans Internet angeschlossen im Sinne von Echtzeit, sondern es basiert auf einem Datensatz, der bis 2021, soweit ich weiß, gespeichert wurde und alles, was danach im Internet entstand, ist nicht berücksichtigt worden in dieser aktuellen KI Version ChatGPT 4. 0.

Sebastian Felix Zappe 

Das stimmt, ja, also, das ist bis ChatGPT 4.0 nicht drin. 

Also alles, was nach 2021 passiert ist da nicht drin. Allerdings ist es so, dass diese Modelle inzwischen sogenannte Plug-Ins unterstützen. Das heißt, man kann denen auch neues Wissen zu einem gewissen Grad mitgeben man kann nicht deren Text Korpus erweitern damit, aber man kann zumindest den Text Corpus im Kleinen für die aktuell gewünschte Antwort ein bisschen verbessern und anpassen und dann zum Beispiel das Ergebnis einer Bing-Suche oder einer Google-Suche mit anhängen als Wissen. Man kann auch vielleicht selber bei Wikipedia einfach ein bisschen nachgucken und dann den aktuellen Stand eines Wikipedia Artikels da einfach rein Copy-und-Pasten und dann sich erst eine Antwort wünschen, da weiß das Model schon ein bisschen mehr.

Raul

Und je spezifischer die Fragen sind, desto besser ist die Antwort. Also wenn ich so eine allgemeine Frage stelle, sowas wie warum darf ich niemanden diskriminieren, bekomme ich auch eine allgemeine Antwort. Aber wenn ich jetzt sagen würde, was genau in der UN-Behindertenrechtskonvention steht in Bezug auf inklusive Bildung steht, könnte er einem das rezitieren – theoretisch. 

Sebastian Felix Zappe 

Ja, das würde funktionieren, da würde auch was Sinnvolles dabei rauskommen. Das heißt also ja, man ist selbst beim Fragen immer dafür verantwortlich, so viel Kontextinformationen wie möglich mitzugeben. 

Judyta 

Ich glaube, da ist auch so ein bisschen der Knackpunkt, als ich mich mit dir unterhalten habe, war auch für mich so total der Mind-Blowing-Punkt, als du gesagt hast: Die Antworten müssen nicht stimmen und ich so: “Hä wie?” Ich frag doch hier gerade so eine allwissende Maschine, die es nunmal   in meinem Kopf so war und sie kann mir einfach kompletten Stuss erzählen und das hätte ich ja eben überhaupt nicht gedacht. Also wir sind eben doch noch dafür verantwortlich, dass alles nochmal zu checken und ja. 

Sebastian Felix Zappe 

Ja aber sowas von. 

Jonas 

Du hast gesagt, dass die Deadline 2021 gewesen ist. Unseren Podcast gibt es seit 2019. Ich mein, uns gibt uns in der ARD Audiothek, beim Bayerischen Rundfunk. Wir sind auf allen möglichen Plattformen, es gibt unser Online-Magazin www.dieneuenorm.de, also es gibt genug Informationen wo sich die KI die Informationen holen kann. Raul Krauthausen ist mit dabei. Ist ja auch, sage ich mal ein Bundesverdienstkreuzträger. Es sind so viele Fakten, die man reinstellen könnte, aber was käme heraus, wenn man mal fragen würde: Was ist der Podcast “Die neue Norm”?

Sebastian Felix Zappe 

Versuchen wir es doch mal:

Um was geht es eigentlich im Podcast “Die neue Norm”? 

ChatGPT via Siri

Im Podcast Die neue Norm geht es darum, Menschen zu helfen, ihre Lebensumstände in einer Post Covid-Welt zu navigieren und zu erobern. Es konzentriert sich auf positive, nützliche Themen, die helfen, den Umgang mit Änderungen in unserem täglichen Leben von Familie bis Karriere und gesellschaftlichem Engagement effektiver und erfolgreicher zu gestalten. 

Jonas 

OK, das ist völliger Quatsch. 

Sebastian Felix Zappe 

Naja, also Quatsch ist es nicht. Es klingt ja sehr, sagen wir mal plausibel, aber ja also Lügen können ja auch plausibel sein, also das hat einfach irgendwas daher gelabert einfach irgendwas erfunden und das zeigt richtig schön, wie diese Modelle eben auch wirklich krasse Grenzen haben. Diese Modelle, die haben kein Wissen, das hat einfach mal angenommen, da kam irgendwas mit “die Neue Norm” und was könnte dann mit Normen zu tun? Das hat dann etwas, das sagen die Informatiker*innen “herbei halluziniert” 

Judyta 

Ist das ein Fachausdruck?

Sebastian Felix Zappe 

Also das ist, was man üblicherweise sagt, ja, das ist halluziniert, weil es so ein bisschen wie eine Halluzination auch funktioniert. Also diese Modelle haben zum Beispiel in unseren Tests Quellen und Bücher und sogar Autor*innen erfunden, die es gar nicht gibt, nur weil sie plausibel klingen. Oder zum Beispiel bei einem Kollegen von uns, Andi, da hat das Modell einfach barrierefreie Orte erfunden, die es gar nicht gibt, dann einfach mal das Modell gefragt, sag uns doch mal ein paar barrierefreie Orte in der Nähe vom Bundestag. Und also vier von diesen fünf Orten, die da genannt wurden, die existieren gar nicht – die hören sich aber sehr plausibel an. 

Jonas 

Ich mein gut, dass was da jetzt gerade ausgespuckt wurde in sich, wenn du quasi alle Punkte einzeln nimmst? Wir haben mal über Familie gesprochen, wir haben über Gesellschaft gesprochen, wir haben einen Großteil des Podcasts aufgenommen während der Corona Pandemie im Home-Office, wo wir gar nicht hier wie jetzt an einem Tisch irgendwie gemeinsam sitzen, also die einzelnen Begriffe in sich, ja, stimmt. Aber das Große und Ganze ist eben dann doch eher ja nicht wirklich zutreffend. Also ich hätte unseren Podcast irgendwie anders beschrieben, wenn man gesagt hätte: Erkläre in 3 Sätzen, worum es irgendwie bei “Die neue Norm geht”. 

Sebastian Felix Zappe 

Ja, auf jeden Fall also, das ist einfach kompletter Quatsch was daraus kam.

Jonas 

Aber ist denn dieses quasi, dass da eben auch Nonsens rauskommen kann,

ist das dann eben auch so, trotzdem hilfreich, sich zum Beispiel einen Widerspruch zu formulieren für die Krankenkasse? Ich mein Judyta, wir haben es am Anfang angesprochen, das war ja lange für dich Thema und glaube ich auch so, wenn ich das so interpretieren kann, ja auch häufig dieses: Eine gewisse Hürde, so ein Widerspruch zu schreiben, weil man auch gar nicht erst mal weiß, ok, wie muss der aussehen, was muss drinstehen, welche Begriffe nutzt man? Und dann sitzt man vor so einem weißen Blatt und schiebt das eher, hat es dir geholfen? 

Judyta 

Ja, also Sebastian und ich haben das zusammen gemacht und wir haben 2 Anläufe gebraucht. Und im ersten Anlauf haben wir eben den Ablehnungsbescheid ChatGPT sozusagen zur Verfügung gestellt, also ihn damit gefüttert.  

Und dann kam eben ein erster Widerspruch raus, den hätte ich auch schreiben können. Also, der war wirklich so, nicht medizinisch, nicht mit Fachbegriffen gespickt, sondern, so ich bin Rollstuhlfahrerin, ich brauche einen Rollstuhl, bitte gib mir einen Rollstuhl, so ein bisschen, ne. Grob zusammengefasst. Und dann haben wir aber den nächsten Schritt gemacht und haben ChatGPT gesagt: Bitte formuliere eben noch mal einen Widerspruch im medizinischen Sinne, im orthopädisch-medizinischen Sinne. 

Und da war ich dann schon beeindruckt. 

Jonas 

Also mit Fachbegriffen? 

Judyta 

Genau, mit Fachbegriffen wirklich aus Sicht des medizinischen Personals. Und da war ich wie gesagt sehr beeindruckt. Ich habe auch schon ein paar Widersprüche geschrieben und habe auch Ablehnungsbescheide schon bekommen und so klingt das, ja, so könnte man das machen, wenn man dann eben noch weiter geht und meine Diagnose noch dazu packt und die verschiedenen Modelle, die abgelehnt wurden, da kann echt was draus werden. 

Raul

Und das war das, was ich meinte: Je spezifischer man ist, desto besser können die Antworten sein. Ich habe mich neulich mit einer Bekannten unterhalten, die auch ihre Symptome bei ChatGPT einfach eingegeben hatte und gefragt hat: Was könnte das für eine Erkrankung sein? Und die Maschine hat dann tatsächlich die richtige Erkrankung- sagen wir mal- zumindest vermutet, hat es auch so formuliert. Wahrscheinlich ist es “sowieso”. Dann sagte die Bekannte zu mir, wenn sie vor 4 Jahren diese Maschine schon gekannt hätte oder wenn es sie da schon gegeben hätte, hätte sie sich 4 Jahre Zeit gespart in Diagnosen, also auch Arztbesuchen und Tausende von Euro und das finde ich schon auch sehr, sehr schwer beeindruckend wie so eine Technologie auch wirklich bahnbrechend sein kann. Also ich habe manchmal das Gefühl, wenn wir über die Medien von Chatbots und KI hören, dann wird sehr schnell immer dieses “Bias”-Thema aufgemacht und dann sehr schnell dieses Thema aufgemacht, ja, es könnte alles falsch sein, aber dahinter stecken auch super viele Ängste von: Was kommt da gerade auf uns zu? 

Jonas 

Ja, total 

Raul 

Und ich habe vor ein paar Tagen einen Podcast gehört, von ehemaligen Chaos Computer Club Mitgründer*innen und die haben halt gesagt, dass ist im Prinzip dieser iPhone-Moment des Internets. Da kommt jetzt Technologie auf uns zu, die können wir nicht aufhalten, sie wird alles verändern, auf supervielen Arbeits- und Lebensbereichen. Es wird Berufe treffen vor allem Programmierer*innen, Leute, die immer viel mit Texten zu tun haben, wird es treffen. Grafiken werden erstellt werden, in Zukunft mit der KI und zwar schneller als sie gucken können. Und die Politik redet noch über Regulierung und sie will etwas regulieren, wo wir noch gar nicht wissen, wie es überhaupt funktioniert. Dann gibt es Wissenschaftler*innen, die fordern, einen Stopp der Weiterentwicklung, obwohl wir auch historisch wissen, dass keine Technologie gestoppt wird. Sie wird trotzdem entwickelt werden. Wir müssen einfach gesellschaftlich lernen, und das ist die größte Aufgabe, Dinge, die wir lesen, Dinge, die wir sehen, nicht mehr automatisch für wahr zu sehen, weil sie könnten von einer KI sein, und das zu erkennen wird letztendlich auch die die größte Herausforderung der Welt, glaube ich, sein. Und ich bin trotzdem leicht optimistisch weil ich Dinge gesehen und benutzt habe in den letzten Wochen mit KI, wo ich dachte OK, das ist jetzt aber auch wirklich um den Faktor 100 besser als alles, was ich zuvor genutzt und gesehen habe. Also mein Lieblings KI-Ding heißt gerade Mac Whisper und das ist im Prinzip ein 3 GB großes Programm. Da gibst du dem eine Audio Datei – zum Beispiel diesen Podcast – und er transkribiert, dir das innerhalb von Minuten akkurater als die Youtube-Untertitel es je könnten auf deinem Computer, du brauchst noch nicht mal einen Internetanschluss. 

Sebastian Felix Zappe 

Ja, das fand ich auch krass, also quasi so eine Zusammenfassung, die kann ich dann so einer KI geben und dann kann ich drunter schreiben, erkläre mir diese Zusammenfassung, so dass sie ein vierjähriges Kind versteht. Und dann kommt ein Text raus, den versteht ein vierjähriges Kind. Das ist ja auch, also allein, was das für potenzielle gesellschaftliche Umwälzungen bedeuten kann, also mal ganz weit gedacht. Das könnte bedeuten, dass vierjährige Kinder auch in der Politik teilnehmen können, weil die können dann plötzlich irgendwie mit GPT- Texte schreiben, die juristisch korrekt sind, in 4-jährigen Sprache, das wäre möglich. 

Jonas  

Ja, aber zwei Fragen, die ich da habe: Auf der einen Seite – klar, je spezifischer man die KI füttert, desto besser werden die Ergebnisse. Gerade aber jetzt, wenn es um das Thema, zum Beispiel jetzt, Krankenkasse und auch um Diagnosen und so weiter geht, wo ich mich dann frage… das sind ja trotzdem sensible und personenbezogene Daten und gerade wenn es irgendwelche Programme sind, wo man eben nicht genau weiß, wo die Daten generell sammeln und ich dann den Widerspruch ja auch schon sehr persönlich schreiben lassen möchte, also quasi wirklich meine ganzen Daten gebe, man könnte natürlich auch sagen: “Generiere mir einen Text und ich nehme das als Vorlage und gebe dann irgendwann noch meinen Namen und so weiter ein”…  aber wenn ich das schon von vornherein mit all meinen Sachen fütter’, inwieweit sieht es da quasi einfach datenschutzmäßig aus? Also, Judyta, hast du dir da Gedanken gemacht zu sagen, okay, du gibst einfach einen sehr persönlichen Bereich von dir preis? Einer Maschine, wo du nicht weißt, ja, wo landet das Ganze? 

Judyta 

Das hat tatsächlich mir Sebastian auch gesagt, das war mir nämlich nicht bewusst, dass wir dann eben nicht meinen Namen, mein Aktenzeichen oder sowas reingemacht haben, sondern eben nur den reinen Text des Ablehnungsbescheids und dann ging das. Aber ja, also jeder sollte so einen Sebastian an seiner Seite haben, wenn er sich damit beschäftigt, ne. Also wie gesagt, es waren zwei, drei Dinge, die ich einfach so nicht vermutet hätte und die er mir einfach erklärt hat. Und auf der anderen Seite kann ich jetzt mit diesem Schriftstück einfach zu meiner Ärztin gehen und sie kann es unterschreiben. Also, Ärzt*innen sollten KI irgendwie die Füße küssen. Wenn es Füße hätte, so. Ne, es ist einfach eine totale Erleichterung und natürlich können sie dann noch ihren Senf dazugeben und noch weiter machen. Also, sehr gerne, sollen sie ja sogar. Aber meistens heißt es eben: “Ja nee, wir haben keine Zeit und keine Ahnung und wir haben sie ja schon lange nicht gesehen – keine Ahnung, was es mit ihrem Fall auf sich hat…”. Also das habe ich alles schon gehört und das wäre einfach ein Wisch, wo man sagen könnte: “Hier unterschreibt einfach und bis zum nächsten Mal.”

Sebastian Felix Zappe 

Mhhm genau. Also die konkrete Frage, falls jemand von den Hörer*innen ausprobieren möchte, war: Wie würde eine fachärztliche Begründung für den Widerspruch lauten? Und dann oben drüber einfach der Text des Ablehnungsbescheides. Und dann kommt tatsächlich ein Widerspruch raus – der ist dann auch nicht mit persönlichen Daten, also da steht dann sowas wie: “Ich bin Name, Titel, und habe Frau/Herrn Name des Patienten in meiner Praxis behandelt und so weiter und so weiter. Also, das ist alles so, dass man das wie Lückentext quasi dann seiner Ärzt*in geben kann.

 Jonas 

Mhhm. Und das wir eben hatten, auch noch weil Thema natürlich, dass durch KI – und wir werden gleich noch ein paar andere Beispiele geben, die wir euch alle auch noch mal dann in unseren Shownotes auf www.dieneuennormen.de zur Verfügung stellen – aber das es durch die KI natürlich gewisse Zugänge gibt und dass auch ja einfach Zugänge zu Informationen einfach erleichtert werden. Sebastian hat eben gesagt, so, man speist die KI mit einem Text und sagt: “Erkläre mir die Inhalte, als wäre ich vier Jahre alt.” Natürlich ist es dann die Möglichkeit, dass dann dieser Text vierjährige Kinder, dass sie den verstehen, aber können dann überhaupt vierjährige Kinder das Programm, die Software benutzen? Oder, wenn wir jetzt auf das Thema Behinderung gehen, dass wir sagen, okay, natürlich könnte man durch die KI Zugänge zu Informationen für Menschen mit Lernschwierigkeiten total erleichtern. Oder dass sie eben selber auf Webseiten gehen, Texte rauskopieren, sie in Programme einspeisen, das wird dann übersetzt und das als Tool zu nutzen. Aber die Frage ist ja trotzdem: Sind die Zugänge zu der Software zu dem System überhaupt gegeben?

Sebastian Felix Zappe 

Also, ich denke, da gibt es tatsächlich nur eine Richtung und die ist ziemlich positiv. Ich denke wirklich, dass die schwere Zugänglichkeit zu Informationen, die kompliziert ist, dass die eben gerade durch KI wirklich nur verbessert werden kann. Diese Zugänglichkeit, die ist ja für alle Menschen wichtig und ich bin auch manchmal mehr auf Zack und manchmal weniger auf Zack und in dem Moment, wo ich weniger auf Zack bin, da freue ich mich zum Beispiel darüber, dass ich in meiner Suchmaschine einen Button habe und da kann ich draufklicken auf: “Fass’ mir die Ergebnisse einfach zusammen.” Dann krieg ich die in zwei Sätzen und muss dann halt nicht drei Seiten lang abends, wenn ich total müde bin, noch scrollen, aber kann trotzdem noch ein Thema so ein bisschen verstehen. Und genau auf die gleiche Art und Weise wird das auf jeden Fall hauptsächlich Zugänge schaffen und weniger wegnehmen, denke ich. Das einzige, was so ein bisschen sehe, ist noch:  Das kann halt jeder. Also, quasi jeder Mensch kann das benutzen, also von wegen, die Krankenkasse kann das auch benutzen… Die kann auch dann ihr Pokémon losschicken und dann kämpfen dann das Pokémon von Judyta und das Pokémon von der Krankenkasse gegeneinander am Ende. 

Judyta 

Und dann, wer gewinnt? 

Sebastian Felix Zappe 

Das ist eine gute Frage.

Jonas 

Aber wir haben ja auch zum Beispiel – und das haben wir für diese Podcast-Folge einfach mal auch ausprobiert – also, wir haben nicht nur Judyta ihren Widerspruch schreiben lassen und jetzt gerade auch live ChatGPT mal so gefragt, was es für Wissen über diesen Podcast und über Diskriminierung von Menschen mit Behinderung hat, sondern wir bieten ja auch für jede Podcast-Folge ein Transkript an, was mehrere DINA4-Seiten lang ist. Und wir haben es mal probiert, dieses Transkript mit einer KI in leichte Sprache zu übersetzen.

Raul

Genau, und dahinter steckt die Firma Summ AI, die letztendlich so ne ChatGPT beziehungsweise KI gebaut haben, um Texte – zum Beispiel Transkripte – in leichter beziehungsweise einfache Sprache umzuwandeln. Und das Ganze geht schon relativ gut. Also, man muss, ich sag mal, so 90 Prozent macht die KI und die restlichen 10 Prozent Korrekturen machen. Das ist dann die menschliche Arbeit, die schon noch gemacht werden muss, aber es ist auf jeden Fall auch hier wieder um den Faktor 100, würde ich sagen, mindestens einfacher einen Text in einfacher Sprache zu erstellen, als wenn du das manuell machen würdest. Und ich glaube, das ist auch das, wo KI nicht unrecht tun dürfen. Natürlich ist sie erst noch nicht so gut wie ein Mensch. Aber sie ist besser, als wenn es kein Mensch macht. Und deswegen sage ich das auch immer mit diesem Faktor 100, weil die Technologien, die es bisher gab, die uns dabei geholfen haben, Texte in einfacher Sprache zu machen oder Untertitel zu machen, die sind einfach bei weitem nicht so gut, wie es in dem Moment die KI konnte. Und ich war jetzt vor ein paar Tagen im Urlaub und es kommt selten vor, aber ich war vor paar Tagen im Urlaub und dachte dann: Okay, du schaltest jetzt mal wirklich dein Gehirn aus und nimmst mal keine Arbeit mit, aber trotzdem wollte ich halt irgendwie mich berieseln lassen mit Literatur oder Texten, die ich spannend fand, die aber nichts mit unserer Arbeit hier mit Inklusion zu tun hatten. Und das war ein englischer Text, waren bestimmt 30 Seiten und ich war echt müde. Und dann habe ich ChatGPT gebeten, diesen Text ins Deutsche zu übersetzen und dann mir vorlesen zu lassen von einem anderen Programm – Speed File – und das in einer ruhigen, angenehmen Stimme, sodass ich dann am Ende…

Jonas:

Eingeschlafen bist? 

Raul

… Naja, ich hatte halt so eine Art Podcast eines englischen Textes auf Deutsch in einer angenehmen Stimme, der mir das in zwei Stunden vorgelesen hat. Und da kannst du dann auch am Strand liegen. Und das fand ich schon… wo ich dachte, okay, das waren drei Klicks mit meinem Handy, war relativ wenig Aufwand, also muss sich mal überlegen, wie das Setup gebaut sein muss – das dauert schon seine Zeit. Aber am Ende waren es nur drei Klicks in der Umsetzung und das kann ich jetzt wiederholen. Und das kann natürlich auch Menschen, die zum Beispiel nicht so gut lesen können, eine große Erleichterung sein. Es kann eine Erleichterung sein für Menschen, die vielleicht auch die Sprache nicht können. Und du kannst es ja auch umgekehrt machen – du kannst ja den Text sprechen und ihn dann theoretisch auch wieder transkribieren und dann auch ins Englische übersetzen lassen, automatisch, und dann sich dort wieder vorlesen… also, das ist ja völlig absurd, weil wir plötzlich Dinge digitalisieren können in so kurzer Zeit mit dem Telefon, dass ich mich dabei erwische, zu denken: Ach krass, das kann ich ja mit KI auch machen.

Sebastian Felix Zappe 

Das wird so lustig, also man stelle sich sowas vor wie, zum Beispiel, wenn das auch noch in Realtime funktioniert, in Echtzeit, dann kann ich ja zum Beispiel ein Telefonat führen und kann einfach einen…  ich kann meine Rechtsanwältin sein. Also, ich kann einfach irgendwas ins Telefon reinsagen und das kommt dann quasi in juristischer Sprache wieder raus und dann kann ich mit, dann kann ich quasi als Jurist*in beim Support anrufen, wenn mir irgendwas nicht gefällt. Und vielleicht ist es dann so, dass die Leute, die da antworten, auch gar keine Leute mehr sind. Das heißt also, im Endeffekt reden dann nur noch Roboter miteinander. Und was passiert da?

 Raul

Gute Frage! Das krasse ist aber – und ich hoffe, man hört so ein bisschen auch meine Euphorie raus – das krasse ist ja, dass, wenn wir über solche Technologien gesprochen haben vor zwei Jahren, dann 

Hieß es: Ja, gut, in hundert Jahren vielleicht, ne. Aber auf einmal ist einfach so ein Dammbruch geschehen, ein technologischer Fortschritt, dass Dinge wie der “Universal Translator” von “Star Trek” oder der “Babbelfish” von “Per Anhalter durch die Galaxis” oder selbst der Kinofilm “Her” mit Joaquin Phoenix, wo Sprachcomputer so gut sind, dass sie in Echtzeit einfach alles übersetzen können – du könntest jetzt nach China reisen und Mandarin übersetzen lassen, von deinem Handy in Echtzeit und Dialoge, die man dir in Mandarin dahin zurückgibt, in Echtzeit auf Deutsch übersetzen lassen, ohne dass du wie mit dem Google Translator warten muss, bis der Dialog beendet ist, dann dauert es eine Weile und dann, nee… sondern in Echtzeit! Das ist auf einmal möglich und ich glaube, das passiert in den nächsten fünf bis zehn Jahren. Vielleicht sogar schneller. Und da werden uns echt noch ordentlich die Ohren schlackern. Ich habe eine KI gesehen, die nennt sich Morph AI und die kann deine Stimme synthetisieren. Das heißt, du könntest theoretisch einen Text schreiben und ihn sprechen lassen in deiner Stimme. Was auch richtiger – ich sag jetzt mal – Mindfuck ist, weil das würde ja bedeuten, ich könnte Barack Obama einen Text sagen lassen, ohne, dass er ihn je gesagt hat. Oder, es gibt eine andere KI, die jetzt gerade noch im Beta-Stadium ist, die gehört zu dem Startup “Be My Eyes”, quasi eine Bilderkennung für blinde Menschen, wo früher man sagen konnte, als blinder Mensch: Hier, ich hab ein Foto, und jemand anderes auf der Welt schaut sich dieses Foto an und beschreibt dir, was auf diesem Foto zu sehen ist. Das war so ein Community-Projekt für die Blinden-Community. Und das haben sie jetzt verbunden mit Chat GPT und lassen jetzt quasi die KI dieses Bild beschreiben und das ist sicherlich nicht so gut, wie wenn es ein Mensch beschreiben würde – noch nicht – aber es ist auf jeden Fall vielleicht eine schnelle Hilfe, wenn gerade auf der anderen Seite der Leitung sich niemand ehrenamtliches gefunden hat, dir bei der Beschreibung des Fotos zu helfen. Und da kommen Dinge auf uns zu, auch für Menschen mit Behinderungen, wo wir uns oder ich zumindest, ich freue mich auch so ein bisschen drauf. 

Jonas 

Ja, hört man. 

Judyta 

Ich würde aber noch auf Bob Blume zurückkommen wollen… ich meine, ja, die Euphorie ist da und es gibt die Möglichkeiten und es gibt vielleicht auch mehr Barrierefreiheit, aber ich glaube, auch in der Schule müsste man da eben einfach – den Jugendlichen – das mehr an die Hand geben, ne, und das einfach behutsam ranführen und einfach irgendwie auch das Tolle daran zeigen, aber irgendwie vielleicht auch die negativen Seiten, ne. Also, nicht gleich irgendwie Panikmache, aber eben einfach begleitend und für Erwachsene gibt es das eben nicht, ne. Also, wir müssen das jetzt on the fly sozusagen einfach lernen, damit umzugehen. 

Jonas 

Wobei ich immer so ein bisschen das Gefühl habe, dass gerade, wenn es ja auch um Echtheit von Bildern geht oder Echtheit von Tonaufnahmen – sowas gab es auch schon früher. Sowas gab es auch schon zu Schwarz -Weiß-Zeiten… natürlich nicht so gut gemacht, aber gleichzeitig war es bei den Menschen eben auch so, dass das Verständnis oder die die Fähigkeit, so etwas zu entlarven, eben auch noch nicht so gut war. Und ich glaube, dass sowohl die Technik ja immer besser wird, aber eben auch, sage ich mal, die Medienkompetenz auch wächst und so ein bisschen auch das Misstrauen. Gleichzeitig, natürlich, ich kann es total nachvollziehen, dass man, wenn man jetzt schon bei jedem x-beliebigen Bild misstrauisch sein muss – oder trotzdem im Hinterkopf haben sollte: Ist es echt, hat 

es die Person wirklich gesagt, was kann damit vielleicht ausgedrückt werden, was instrumentalisiert wird für irgendeine Meinung…? Das fordert einen schon so ein bisschen und ich kann diese Sorge, die so ein bisschen auch mitschwingt – jetzt nicht die Sorge, dass alle Schüler*innen ihre Hausaufgaben mit ChatGPT machen, sondern, was das eben auch für vielleicht politische Dimensionen dann später hat- kann ich auf der einen Seite nachvollziehen, aber auf der anderen Seite eben auch diese große Chance, was das eben bedeutet, ja, einfach Arbeitsschritte zu erleichtern beziehungsweise leichter zu kommunizieren können oder irgendwie Zugänge zu schaffen. Und gleichzeitig ist es natürlich so, dass – wir haben eben ja von der Tatsache gesprochen, dass KI ja auch gefüttert werden muss – und dadurch, dass wir Menschen ja am Werk sind, ist es so, dass natürlich die künstliche Intelligenz häufig immer noch die Stereotype reproduziert, die es immer noch in unserer Gesellschaft gibt und wir haben auf unserem Online-Magazin “dieneuennorm.de” einen Artikel veröffentlicht, den wir euch in die Shownotes packen, wo es um Bilder geht, die von KI generiert werden. Von Midjourney ist das Programm und das fand ich persönlich total faszinierend, weil, wenn man darüber nachdenkt, dass die Personen, die auf den Bildern zu sehen sind, dass es die einfach nicht gibt. Auf der einen Seite werden halt keine Persönlichkeitsrechte, ja, verletzt, weil einfach die, Models, die dort zu sehen sind, ja, sie es einfach nicht gibt. Auf der anderen Seite ist es so, dass, wenn man die KI halt Behinderung generieren lässt, und die Behinderung sehr stereotyp und teilweise auch einfach falsch dargestellt wird.

Sebastian Felix Zappe 

Ich glaube, da gibt es noch ein weiteres Problem, also ein gesellschaftliches Problem, was daraus erwachsen kann: Selbst wenn es diese KI schaffen sollte, diese Models ohne Stereotypen realistisch abzubilden, also ein Mensch mit Behinderung als Modell, dann ist es möglicherweise so, dass dadurch natürlich Jobs wegfallen. Also, das heißt, die Jobs der Models, die fallen natürlich weg, wenn zum Beispiel ein großes Jeansunternehmen oder so alle seine Onlineshop-Bilder einfach von einer KI generieren lässt. Und dann ist es aber so, dass eben dieser Job ein Model zu sein, potenziell im Durchschnitt statistisch für Menschen mit Behinderung potenziell bisschen wichtiger sein kann als für Menschen ohne Behinderung. Also, zum Beispiel, wenn ich jetzt ein Model mit Behinderungen wäre, dann wäre es möglicherweise für mich schwieriger, einen neuen Job zu finden, als wenn ich keine Behinderung hätte. 

Raul

Fotograf*innen werden auch ihre Berufe ändern müssen oder vielleicht sogar verlieren. Influencer*innen auf YouTube wird es in Zukunft vielleicht nicht mehr so brauchen, weil wir einfach einen Avatar fragen und der kann uns alles sagen, was wir wollen, unserer Brand-Corporate entsprechend, ohne dass wir Gefahr laufen, als Unternehmen oder als Aktivist*innen und Politiker*innen, dass dieser Influencer was Falsches sagt. Das ist halt das Krasse. Und, also, ich glaube… wie soll ich mal sagen, das ist die Kehrseite dieser ganzen Medaille, dass diese Technologie jetzt allen Menschen zur Verfügung gestellt wurde, also – nicht allen Menschen – aber sehr, sehr vielen Menschen zur Verfügung gestellt wurde und da einfach so ein Paradigmenwechsel stattfindet insofern, dass wir nicht vorhersehen können, welche Berufe darunter leiden werden. Und da sind jetzt auch die Berufe betroffen, wo man lange glaubte, die seien sicher. Also, Programmierer*innen zum Beispiel, da jetzt auch einfache Arbeiten zumindest durch einen Chatbot ersetzt werden könnten. Also, es gibt die ersten Sachen, die komplett automatisch geschrieben werden in Zeitungen, Sportmeldungen, Wettermeldungen kann man im Prinzip, weil sie immer gleich sind… Horoskope kann man sich auch automatisch schreiben lassen. Und was heißt das dann eigentlich für den Journalismus? Welche Bedeutung werden Texte, die wir lesen oder Bilder oder Videos, die wir sehen, überhaupt noch haben?

Jonas 

Mhm. Kann KI kreativ sein, also bei Bildern und Texten steckt ja trotzdem… das sind ja nicht nur Daten und Fakten, die dort wiedergegeben werden müssen, sondern das ist ja irgendwie auch etwas, wo, ja, man sich die Fantasie ein bisschen ausmalen kann und einfach kreativ ans Werk gehen kann. 

Sebastian Felix Zappe 

Natürlich, wir hatten ja vorhin diese Sache mit dem Halluzinieren und dem Lügen, also quasi das Gelogene, das Halluzinierte, das Herbeihalluzinierte… Das ist natürlich auch eine Form von Kreativität, die man nutzen kann und natürlich auch in, also, in großem Maße genutzt wird in der kreativen Szene. Also, gleichzeitig hat man irgendwie in der Kreativszene total Angst, dass der eigene Job wegfällt und gleichzeitig hat man halt eben auch ein neues Werkzeug, mit dem man auch teilweise wunderschöne Sachen generieren kann. Das sind halt eben immer beide Seiten, diese ganze Sache.

Raul

Jonny Häusler hat in seinem Spreeblick-Newsletter dazu mal folgenden sehr klugen Satz gesagt, wie ich finde. Er sagt: “Als Programmierer*in würde ich mir derzeit mehr Sorgen machen, als zum Beispiel als Musiker*in.“ Ich habe leider den Link verloren, aber neulich postete jemand eine KI, wo eine Musik- Software einen Song aufgenommen und abgespielt hat. Der Song war so scheiße und vorhersehbar, dass ich laut lachen musste. Ohnehin, das haben wir auch in Urheberrechtsdebatten erlebt, haben manche Techies eine – aus meiner Sicht – eher verschrobene Vorstellung davon, was beim Texten und Komponieren von Musik funktioniert und was eben nicht. Schon das Wort deutet ein großes Missverständnis an. Es bleibt uns insgesamt betrachtet interessanter, spannender, aber auch bekloppter, verrückter, schräger, klüger, eben kreativer zu sein als KI. Mehr Quatsch wagen aber auch mehr Radikalität. Das ist kein verzweifeltes Festklammern an der Schaffenskraft der Menschheit oder so, wenn ich behaupte, dass es einiges gibt, dass keine KI abbilden kann. Zum Beispiel Irrationalität, Unsinn, individuelle emotionale Interpretation von Erlebnissen, echte Liebe, aber auch echten Hass, Trauer, vor Freude weinen und daraus eine Institution machen, oder eben einen Song. Das heißt, Kunst, wenn ich ihn richtig verstehe, hängt immer damit zusammen, was die Absicht von etwas ist: Habe ich einen Zweck, den ich mit der Kunst machen will? Und den hat die KI ja so erstmal nicht. Sondern du kannst ihr halt was sagen und dann macht die das und sie macht das wie du es gefragt hast. Das ist so, wie wenn du nen Bildmaler*in beauftragst, das so zu malen wie es auf dem Foto zu sehen ist.

 Sebastian Felix Zappe 

Da würde ich widersprechen, also tatsächlich, ich würde widersprechen. Also, die KI die hat insofern eine Absicht, als dass der Textkorpus, mit dem sie gefüttert wurde, eine Absicht hat. Also quasi jede Kommunikation hat ja eine Absicht. Die hat ja die Absicht, eine:n Empfänger*in zu erreichen und ich denke, dass sich diese Absicht aus dem Textkorpus dann immer in den Antworten widerspiegelt. Also, das heißt: Wenn der Textkorpus zum Beispiel jetzt irgendwie supernice zu allen Menschen ist, dann wird auch die Absicht in der Antwort von ChatGPT mit drinstecken. Das heißt also, die kam dann im Endeffekt nicht aus ChatGPT, die kam aus den Menschen raus, die die Originaltexte geschrieben haben. Aber sie ist als Substrat noch enthalten. Also, das heißt, ich würde einer KI das Konzept von Absicht beimessen.

Raul

Okay, das ist die Absicht der Menschen, die den Textkorpus gefüttert haben, aber es ist nicht die eigene Absicht. Da kann man Menschen auch die Frage stellen: Ist die eigene Absicht, wenn du deine Eindrücke und Erlebnisse letztendlich verarbeitest und daraus Kunst machst – ist deine Absicht oder war das die Summe aller Eindrücke und Erlebnisse die du hattes? Aber ja.

Sebastian Felix Zappe 

Ja, genau.

Raul

It’s getting philosophical.

Jonas 

Judyta, weißt du denn schon, welche Programme du in Zukunft benutzen wirst? Wirst du jetzt häufiger Widersprüche schreiben oder deine journalistischen Texte mit ChatGPT schreiben lassen?

Judyta 

Nee, das nicht. Aber diese Einfachheit, diese paar Minuten mit Sebastian, die wir uns da hingesetzt haben, die irgendwie so bisschen was auch weggewischt haben von diesem Ganzen, ne, du hattest erwähnt, diese Unsicherheiten: Lohnt sich das diesen Kampf jetzt nochmal anzugehen… Diese ganzen negativen Gefühle, die man dabei hat, die waren kurzzeitig weg, weil es wirklich eine einfache Lösung war. Und das werde ich auf jeden Fall wieder benutzen, auf jeden Fall, ja.

Raul

Ich werde KI in meinen aktiven Arbeitsalltag definitiv einbauen – alleine sowas wie Texte vorlesen lassen, die in einer anderen Sprache sind, ist für mich ein super geiles Feature, das mich mehr Texte lesen lässt als vorher. 

Judyta 

Und du, Jonas?

Raul

Sagt doch mal. 

Judyta 

Erzähl mal. 

Jonas 

Also, ich habe auch irgendwie Gefallen daran gefunden – und das fängt, glaub ich erst mal damit an, indem man einfach ganz verrückte, random Fragen stellt und erst mal schaut, was kommt wirklich dabei raus. Ich habe ich nicht so den den Use-Case für mich gefunden, wo ich sage, dass ich es irgendwie einsetzen kann. Aber generell finde ich es halt total spannend, als,  gerade auch die Sache auch mit den Fotos, die generiert werden, weil es auf der einen Seite natürlich es vereinfacht, Sichtbarkeit darzustellen von Behinderungen – also, das, was wir eben hatten, es ist irgendwie natürlich schneller, über so ne KI ein Foto erstellen zu lassen, wo eine Person mit Behinderung da ist, als irgendein Model irgendwo zu finden und dann so ein Fotoshooting zu machen. Aber auf der anderen Seite, ja, sorgt es zwar für diese Repräsentanz, aber eben nicht von einem echten Menschen mit Behinderung. Und das ist so ein bisschen der Zwiespalt, den ich habe. Auch bei Programmen wie Summ AI und Co, wo es um leichte Sprache geht, dass natürlich das Tool die Zugänge schafft und man durch die Kommunikation mehr Menschen mit Lernschwierigkeiten erreicht. Aber dieser Prozess, dass Menschen mit Lernschwierigkeiten wirklich dabei sind und es ihr Job ist, leichte Sprache zu testen, dass das wegfallen könnte, zum Beispiel, als Expert*innen in eigener Sache – als Models mit Behinderung auch Expert*in in eigener Sache zu sein, dass das eben ja einfach dieser Zwiespalt ist zwischen mehr Repräsentanz, aber eben auf unechte Art und Weise – das nimmt mich so ein bisschen mit, beziehungsweise das beschäftigt mich. 

Raul

Das finde ich einen superwichtigen Aspekt, den wir niemals unterschätzen dürfen, weil Technologien grundsätzlich keine Menschen ersetzen sollten… würde ich auf ganz vieles anwenden und es immer besser ist, wenn dann zumindest die Betroffenen für diese Technologien entwickelt wurden, am Ende irgendwann gesagt werden könnte: Ja, es ist gut genug, da muss jetzt kein Mensch mehr extra für mich was gemacht haben. Erst dann sollten wir zufrieden sein. 

Sebastian Felix Zappe 

Ich werde auf jeden Fall weiter KI einsetzen – das hilft mir tatsächlich auch beim Programmieren. Und wenn es mir mal nicht hilft, dann werde ich es wegen des Unsinns machen, der dabei rauskommt. Zum Beispiel wurde vorgeschlagen, ich könnte ja mal als Barrierefreiheitskriterium aufnehmen, ob die Assistenzhunde auch rauchen dürfen, was ich auch wieder ein bisschen kreativ finde. Also, da habe ich ein bisschen mich gefreut darüber und finde, das ist auch Kunst und echte Liebe um zu dem Zitat von vorhin zurückzukommen. So ein bisschen zumindest. Also für mich war es zumindest ein bisschen echte Liebe. Das werde ich auf jeden Fall weitermachen.

Jonas

Lässt Einen etwas schmunzelnd zurück. Deshalb: Nutzt ihr KI? Und welche Programme nutzt ihr? Schreibt doch gerne mal einen Kommentar unter diesem Podcast, vielleicht sogar mit ChatGPT. vielleicht etwas Positives. Und wir freuen uns – oder bedanken uns erstmal bei dir, Sebastian, dass du da warst… beziehungsweise, warst du da oder war es nur eine KI, die die ganze Zeit hier zu uns gesprochen hat? Und wir freuen uns, wenn ihr beim nächsten Mal auch wieder mit dabei seid.

Alle: Tschüss, Tschüss. 

Raul

Verdammt, ich bin aufgeflogen.