Das ist ChatGPT und warum es möglicherweise das wichtigste Werkzeug seit modernen Suchmaschinen ist.
OpenAI hat eine KI für Frage-Antworten namens ChatGPT entwickelt, die komplexe Fragen auf konversationelle Weise beantwortet.
Es handelt sich um eine revolutionäre Technologie, weil sie darauf trainiert wurde, zu verstehen, was Menschen meinen, wenn sie eine Frage stellen.
Viele Benutzer sind beeindruckt von der Fähigkeit, qualitativ hochwertige menschenähnliche Antworten zu liefern, was das Gefühl vermittelt, dass diese Technologie möglicherweise die Art und Weise disruptieren kann, wie Menschen mit Computern interagieren und wie Informationen abgerufen werden.
Was ist ChatGPT?
ChatGPT ist ein großes Sprachmodell Chatbot, entwickelt von OpenAI auf Basis von GPT-3.5. Es hat die bemerkenswerte Fähigkeit, in Form eines konversationellen Dialogs zu interagieren und Antworten zu geben, die überraschend menschenähnlich erscheinen können.
Große Sprachmodelle haben die Aufgabe, das nächste Wort in einer Wortreihe vorherzusagen.
Reinforcement Learning with Human Feedback (RLHF) ist eine zusätzliche Trainingsschicht, die menschliches Feedback verwendet, um ChatGPT beizubringen, Anweisungen zu befolgen und zufriedenstellende Antworten zu generieren.
Wer hat ChatGPT entwickelt?
ChatGPT wurde von OpenAI entwickelt, einem Unternehmen für künstliche Intelligenz mit Sitz in San Francisco. OpenAI Inc. ist das gemeinnützige Mutterunternehmen von OpenAI LP, einer gewinnorientierten Gesellschaft.
OpenAI ist bekannt für das bekannte Modell DALL·E, ein Deep-Learning-Modell, das Bilder aus textuellen Anweisungen (Prompts) generiert.
Der CEO ist Sam Altman, der zuvor Präsident von Y Combinator war.
Microsoft ist Partner und Investor mit einer Summe von 1 Milliarde US-Dollar. Gemeinsam haben sie die Azure AI Platform entwickelt.
Große Sprachmodelle
ChatGPT ist ein großes Sprachmodell (LLM). Große Sprachmodelle (LLMs) werden mit riesigen Datenmengen trainiert, um genau vorherzusagen, welches Wort als nächstes in einem Satz kommt.
Es wurde festgestellt, dass eine Zunahme der Datenmenge die Fähigkeiten der Sprachmodelle erweitert.
Laut der Stanford University:
„GPT-3 verfügt über 175 Milliarden Parameter und wurde mit 570 Gigabyte Text trainiert. Zum Vergleich: Sein Vorgänger, GPT-2, war über 100-mal kleiner und hatte 1,5 Milliarden Parameter.
Diese Skalenzunahme verändert das Verhalten des Modells drastisch – GPT-3 kann Aufgaben ausführen, für die es nicht explizit trainiert wurde, wie z.B. das Übersetzen von Sätzen von Englisch nach Französisch, mit wenigen oder gar keinen Trainingsbeispielen.
Dieses Verhalten war bei GPT-2 größtenteils nicht vorhanden. Darüber hinaus übertrifft GPT-3 in einigen Aufgaben Modelle, die explizit für diese Aufgaben trainiert wurden, obwohl es in anderen Aufgaben weniger gut abschneidet.“
LLMs sagen das nächste Wort in einer Wortreihe und den nächsten Satz voraus – ähnlich wie bei der automatischen Vervollständigung, jedoch in einem beeindruckenden Maßstab.
Diese Fähigkeit ermöglicht es ihnen, Absätze und ganze Seiten mit Inhalt zu erstellen.
Aber LLMs haben ihre Grenzen darin, dass sie nicht immer genau verstehen, was ein Mensch möchte.
Und genau hier setzt ChatGPT mit dem erwähnten Reinforcement Learning with Human Feedback (RLHF)-Training an, um den aktuellen Stand der Technik zu verbessern.
Ist ChatGPT kostenlos nutzbar?
Die Nutzung von ChatGPT ist derzeit während der „Forschungsvorschau“ kostenlos.
Der Chatbot steht derzeit Benutzern zum Ausprobieren und zur Abgabe von Feedback zu den Antworten zur Verfügung, damit die KI besser darin wird, Fragen zu beantworten und aus Fehlern zu lernen. Um ChatGPT kostenlos zu nutzen, klicken Sie hier.
In der offiziellen Ankündigung heißt es, dass OpenAI gerne Feedback zu den Fehlern erhalten möchte:
„Obwohl wir Anstrengungen unternommen haben, um das Modell dazu zu bringen, unangemessene Anfragen abzulehnen, kann es manchmal auf schädliche Anweisungen reagieren oder einseitiges Verhalten zeigen.
Wir verwenden die Moderation-API, um bestimmte Arten von unsicherem Inhalt zu warnen oder zu blockieren, erwarten jedoch vorerst einige falsch negative und positive Ergebnisse.
Wir sind daran interessiert, Benutzerfeedback zu sammeln, um unsere fortlaufende Arbeit zur Verbesserung dieses Systems zu unterstützen.“
Derzeit gibt es einen Wettbewerb mit einem Preis von 500 $ in ChatGPT-Credits, um die Öffentlichkeit dazu zu ermutigen, die Antworten zu bewerten.
„Benutzer werden dazu ermutigt, Feedback zu problematischen Modellausgaben über die Benutzeroberfläche abzugeben, sowie zu falsch positiven/negativen Ergebnissen des externen Inhaltsfilters, der ebenfalls Teil der Benutzeroberfläche ist.
Wir sind insbesondere an Feedback zu schädlichen Ausgaben interessiert, die unter realen, nicht feindlichen Bedingungen auftreten könnten, sowie an Feedback, das uns hilft, neue Risiken und mögliche Abhilfemaßnahmen aufzudecken und zu verstehen.
Sie können am ChatGPT Feedback Contest teilnehmen, um die Chance auf bis zu 500 $ in API-Credits zu gewinnen.
Einsendungen können über das Feedback-Formular abgegeben werden, das in der ChatGPT-Benutzeroberfläche verlinkt ist.“
Welche Einschränkungen hat ChatGPT?
Einschränkungen bei toxischen Antworten
ChatGPT ist speziell darauf programmiert, keine toxischen oder schädlichen Antworten zu geben. Es wird also vermeiden, solche Fragen zu beantworten.
Qualität der Antworten hängt von der Qualität der Anweisungen ab
Eine wichtige Einschränkung von ChatGPT besteht darin, dass die Qualität der Ausgabe von der Qualität der Eingabe abhängt. Mit anderen Worten: Expertenanweisungen (Prompts) liefern bessere Antworten.
Antworten sind nicht immer korrekt
Eine weitere Einschränkung besteht darin, dass ChatGPT darauf trainiert ist, Antworten zu geben, die für Menschen richtig erscheinen, aber diese Antworten können Menschen irreführen und falsch sein.
Viele Benutzer haben festgestellt, dass ChatGPT falsche Antworten geben kann, einschließlich einiger sehr falscher Antworten.
Moderatoren auf der Programmierungs-Fragen-und-Antworten-Website Stack Overflow haben möglicherweise eine unbeabsichtigte Auswirkung von ChatGPT-Antworten festgestellt, die korrekt aussehen. Stack Overflow wurde mit Antworten von ChatGPT überflutet, von denen viele falsch waren.
Die Tausenden von Antworten überforderten das freiwillige Moderator Team, weshalb die Administratoren ein Verbot für Benutzer erlassen haben, die Antworten von ChatGPT posten.
Die Flut von ChatGPT-Antworten führte dazu, dass ein Beitrag mit dem Titel „Temporary policy:
ChatGPT is banned“ (Vorläufige Richtlinie: ChatGPT ist verboten) erstellt wurde:
„Dies ist eine vorübergehende Richtlinie, die darauf abzielt, den Zustrom von Antworten und anderen mit ChatGPT erstellten Inhalten zu verlangsamen.
… Das Hauptproblem besteht darin, dass die Antworten, die ChatGPT produziert, oft zwar plausibel, aber inkorrekt oder unsinnig sind…“
Die Erfahrung der Stack Overflow Moderatoren mit falschen, aber korrekt aussehenden ChatGPT-Antworten ist etwas, worauf OpenAI, die Entwickler von ChatGPT, in ihrer Ankündigung der neuen Technologie hingewiesen haben.
OpenAI erklärt die Einschränkungen von ChatGPT
Die Ankündigung von OpenAI enthält folgenden Hinweis:
„ChatGPT schreibt manchmal plausibel klingende, aber inkorrekte oder unsinnige Antworten.
Die Behebung dieses Problems ist eine Herausforderung, da:
- es während des RL Trainings keine Quelle der Wahrheit gibt;
- das Modell vorsichtiger zu machen, dazu führt, dass es Fragen ablehnt, die es korrekt beantworten könnte; und
- das überwachte Training das Modell in die Irre führt, weil die ideale Antwort davon abhängt, was das Modell weiß, nicht was der menschliche Demonstrator weiß.“
Wie kann ChatGPT verwendet werden?
ChatGPT kann Code, Gedichte, Lieder und sogar Kurzgeschichten im Stil eines bestimmten Autors schreiben.
Die Fähigkeit, Anweisungen zu befolgen, macht ChatGPT zu einem Werkzeug, mit dem man Aufgaben erledigen lassen kann, anstatt es nur als Informationsquelle zu nutzen.
Dies macht es nützlich für das Verfassen eines Aufsatzes zu nahezu jedem beliebigen Thema.
ChatGPT kann als Tool zur Erstellung von Gliederungen für Artikel oder sogar für ganze Romane dienen.
Es kann für nahezu jede Aufgabe eine Antwort in schriftlicher Form liefern.
Fazit
Wie bereits erwähnt, wird ChatGPT voraussichtlich zu einem Werkzeug, für dessen Nutzung die Öffentlichkeit in Zukunft bezahlen muss.
Innerhalb der ersten fünf Tage, seitdem es der Öffentlichkeit zugänglich gemacht wurde, haben sich über eine Million Benutzer registriert, um ChatGPT zu nutzen.
