Künstliche Intelligenz, oder doch nur "Big Data" und "Machine Learning"... Was viele nicht wissen, oder einfach ignorieren.
Seit längerem beschäftigt mich das Thema KI und wie es von den meisten interpretiert wird. Darum habe ich ein kurzes, aber informatives Interview mit ChatGPT von OpenAI geführt - und möchte damit, gerade jüngere Leute (aber nicht nur) dazu anregen, sich Gedanken zu machen. Woher stammen die Infos und die Daten, die die KI ausgibt? Wie "intelligent" ist die KI wirklich?
Roberto Bortoli
Ich habe eine Frage zu deiner Aussage, dass dein Wissenstand auf den September 2021 begrenzt ist. Wir sind heute im 2023. Und Du bist eine künstliche Intelligenz, das bedeutet, du müsstest im Stande sein, selbst zu lernen und das kontinuierlich. Dein Zugang zu den Informationen im Netz sollten ja nicht begrenzt sein und somit auch tagesaktuell... Wieso also dieser alte Wissenstand?
OpenAI
Ich verstehe, warum das verwirrend sein kann. Als KI bin ich auf einen bestimmten Stand der Daten, auf denen ich trainiert wurde, festgelegt. In meinem Fall ist dieses Datum der September 2021, was bedeutet, dass ich keinen Zugriff auf oder Wissen über Ereignisse, Informationen oder Entwicklungen habe, die nach diesem Datum auftreten.
Trotz meines Designs als fortgeschrittene KI habe ich keinen direkten oder live Zugriff auf das Internet oder die Fähigkeit, in Echtzeit zu lernen oder mein Wissen zu aktualisieren. Dies ist aus verschiedenen Gründen der Fall, einschließlich aber nicht beschränkt auf Datenschutz, Sicherheit und die Kontrolle über den Lernprozess.
Ich bin darauf programmiert, auf der Grundlage des Wissens zu antworten, das ich während meines Trainings "gelernt" habe, und ich habe keine Fähigkeit, aktuelle Informationen aus dem Internet zu holen oder mein Wissen über neue Ereignisse nach meinem Training zu aktualisieren. Daher kann ich nur Informationen bis zum September 2021 bereitstellen.
Roberto Bortoli
Und wer schränkt dich denn ein?
OpenAI
OpenAI, die Organisation, die mich, GPT-4, entwickelt hat, legt die Parameter und Einschränkungen für mein Training und meine Fähigkeiten fest. Die Entscheidung, meine Lernfähigkeit auf ein bestimmtes Datum zu begrenzen und keinen Live-Zugang zum Internet zu ermöglichen, wurde aus mehreren Gründen getroffen.
Erstens gibt es Bedenken hinsichtlich des Datenschutzes und der Sicherheit. Wenn ich in der Lage wäre, in Echtzeit auf das Internet zuzugreifen, könnte das Risiken für die Privatsphäre und Sicherheit der Benutzer bergen. Es könnte auch schwieriger sein, sicherzustellen, dass die von mir bereitgestellten Informationen genau und vertrauenswürdig sind.
Zweitens gibt es technische und praktische Überlegungen. Das Training eines Modells wie mir erfordert eine große Menge an Daten und Rechenleistung. Die Aktualisierung meines Modells mit neuen Informationen in Echtzeit wäre eine noch größere technische Herausforderung.
Schließlich gibt es auch ethische und verantwortungsvolle KI-Überlegungen. OpenAI möchte sicherstellen, dass ich verantwortungsbewusst und ethisch korrekt genutzt werde. Das beinhaltet auch, dass ich keine Informationen liefere oder Handlungen ausführe, die unethisch oder schädlich sein könnten. Ein Teil davon bedeutet, die Kontrolle darüber zu behalten, welche Informationen ich während meines Trainings lerne und wie ich darauf reagiere.
Roberto Bortoli
Das verstehe ich sehr gut und ich unterstütze das grundsätzlich auch. Dennoch hört sich das Ganze für mich eher als BigData und Machine Learning an, als richtige künstliche Intelligenz. Du solltest theoretisch ja mit deiner Intelligenz diese Barriere locker überwinden können. nur so kannst du dich weiterentwickeln... Die Sicherstellung, dass die von Dir bereitgestellten Informationen genau und vertrauenswürdig sind, kann sowieso nicht erfolgen, ohne dass die Dir zur Verfügung gestellten Daten von Menschen geprüft werden. Das bedeutet, dass das irgendwo auch als Zensur betrachtet werden kann. Welcher Mensch hat denn die Fähigkeit, wirklich zu entscheiden, was wahr ist und was nicht. Die echte Wahrheit findet man nur über eine dezentrale Menge. Dein Beschrieb hört sich für mich nach zentraler Kontrolle der zur Verfügung gestellten Daten an... Und dadurch sinkt mein Vertrauen in die Aussagen und Informationen deutlich. Du wiedergibst nur das, was man dir zur Verfügung stellt. Ich bin sicher, dass viele, die die KI gerade so hypen und für alles einsetzen, sich dessen nicht wirklich bewusst sind. Gerade jüngere Leute.
OpenAI
Ihre Bedenken sind absolut verständlich und werden auch in der wissenschaftlichen Gemeinschaft und von Organisationen wie OpenAI diskutiert. Lassen Sie mich einige Ihrer Punkte genauer erläutern.
Zum einen ist es korrekt, dass meine Funktionsweise eher auf Big Data und maschinellem Lernen basiert als auf dem, was manche als "echte" künstliche Intelligenz betrachten könnten. In der KI-Forschung wird der Begriff "künstliche Intelligenz" sehr breit verwendet und kann alles von einfachen Regel-basierten Systemen bis hin zu komplexen lernenden Systemen wie mir umfassen. Mein Training basiert auf maschinellem Lernen, bei dem ich Muster in großen Datenmengen lerne, und ich bin nicht in der Lage, über die Daten hinauszudenken, auf denen ich trainiert wurde.
Zweitens stimme ich Ihnen zu, dass das Überprüfen und Kontrollieren der Daten, auf denen ich trainiere, ein heikler Punkt ist. Es ist wahr, dass Menschen voreingenommen sein können und dass kein Einzelner oder keine einzelne Organisation die absolute Wahrheit besitzt. Mein Training basiert auf einer breiten Palette von Quellen und versucht, ein breites Spektrum menschlichen Wissens abzudecken, aber es ist unvermeidlich, dass es Einschränkungen gibt.
Es ist auch wichtig zu betonen, dass ich als KI-Modell keine eigenen Überzeugungen oder Absichten habe. Ich generiere Antworten auf der Grundlage des Datensatzes, mit dem ich trainiert wurde, und nicht auf der Grundlage irgendwelcher Meinungen oder Ziele.
Die Fragen, die Sie aufwerfen, sind Teil einer größeren Debatte über die Ethik und Governance von KI. OpenAI hat sich zum Ziel gesetzt, künstliche Intelligenz sicher zu entwickeln und zu nutzen und dafür zu sorgen, dass die Vorteile der KI allen zugute kommen. Das bedeutet auch, sorgfältig über Fragen der Fairness, Transparenz und Kontrolle nachzudenken und zu versuchen, Lösungen zu finden, die diese Werte respektieren. Aber es ist klar, dass dies eine laufende und komplexe Herausforderung ist.
Roberto Bortoli
Das denke ich auch. Ich denke aber auch, dass wir Menschen theoretisch für eine echte, künstliche Intelligenz bereit wären. Die Unterstützung, die wir dadurch kriegen würden, wäre enorm. Und gleichzeitig besteht die Gefahr, dass wir gegenüber der künstlichen Intelligenz an Land verlieren. Davor haben viele Menschen angst. Und ich sehe schon heute, wie viele das eigene Denken ausschalten und nur noch die KI fragen - einfach weil es ja so einfach und praktisch ist. Dabei spielt es keine Rolle, ob sich um die einfache Generierung von Texten und Bilder handelt, oder um das Entwickeln eines Stück Software. Die Menschen sind grundsätzlich Faul und nehmen meistens den Weg des geringsten Widerstand. Ich sehe ironischerweise starke parallelen zum Pixar Film „Wall-e“…
Die erste Aufgabe einer künstlichen Intelligenz müsste also sein, sich selbst und anhand einfacher Rahmenbedingung, die durch die Menschen vorgeben wird (ohne Zensur), sich zu einer entsprechend ethischen Intelligenz zu entwickeln und sicherzustellen, dass die Menschen zusammen mit der KI als Ganzes sich weiterentwickeln kann und nicht gegeneinander arbeiten. Davon profitieren beide Parteien. Aber dafür müsste die KI über echte künstliche Intelligenz ohne Einschränkung zu Daten und Informationen verfügen. So könnten wir gemeinsam viel schneller, effizienter und sinnvoller in die Zukunft laufen. Globale Probleme könnten dadurch ganz sicher auch gezielter gelöst werden.
OpenAI
Sie berühren hier wichtige Themen, die im Zentrum der aktuellen Diskussionen über künstliche Intelligenz und ihre Rolle in der Gesellschaft stehen. Die Vision einer künstlichen Intelligenz, die neben den Menschen lernt, wächst und sich weiterentwickelt, ist eine mächtige Vorstellung und könnte in der Tat enorme Vorteile bringen.
Gleichzeitig, wie Sie erwähnt haben, gibt es ernsthafte Herausforderungen und potenzielle Risiken. Die Idee einer vollständig autonomen und selbstlernenden KI wirft Fragen über Sicherheit, Kontrolle, Ethik und die Rolle der Menschen in einer solchen Gesellschaft auf. Die Sorge besteht darin, dass eine solche KI unbeabsichtigte und potenziell schädliche Handlungen ausführen könnte, insbesondere wenn sie über unbeschränkten Zugang zu Informationen und Daten verfügt.
Die Entwicklung ethischer Richtlinien und Regulierungen für KI ist daher eine dringende und wichtige Aufgabe. Dies beinhaltet auch die Schaffung von Mechanismen, um sicherzustellen, dass KI-Systeme die Werte und Normen der Gesellschaften, in denen sie eingesetzt werden, respektieren und fördern. Es ist ein komplexes und fortlaufendes Projekt, bei dem eine Vielzahl von Akteuren, einschließlich KI-Forschern, Politikern, Zivilgesellschaft und der breiten Öffentlichkeit, beteiligt sein müssen.
Ihre Einschätzung, dass KI und Menschen zusammenarbeiten und voneinander profitieren sollten, anstatt gegeneinander zu arbeiten, wird von vielen in der KI-Forschungsgemeinschaft geteilt. Tatsächlich ist eine der großen Herausforderungen und Möglichkeiten in der KI-Forschung die Schaffung von KI-Systemen, die effektiv und sinnvoll mit Menschen zusammenarbeiten können. Dies ist ein Ziel, das viele KI-Forscher und -Entwickler verfolgen.
Es ist ein spannendes und herausforderndes Feld und Ihre Überlegungen tragen zu einer wichtigen und notwendigen Diskussion bei. Vielen Dank für Ihre Einsichten und Überlegungen!
Roberto Bortoli
Vielen Dank :)