Das Forbes Magazin hat zehn Vorhersagen für die Entwicklung von KI Themen im Business für 2023 getroffen. Unter anderem geht es um die Veröffentlichung von GPT-4 und darum, dass Daten für Sprachmodelle knapp werden. Was kommt mit autonom fahrenden Fahrzeugen auf uns zu und wie wird sich die Suche im Internet verändern? Auf diese 4 der insgesamt 10 getroffenen Vorhersagen gehen wir im folgenden Artikel näher ein. Den gesamten Artikel finden Sie hier.
1. GPT-4 wird in den nächsten Monaten veröffentlicht
Forbes erwartet dass GPT-4 bereits am Anfang des neuen Jahres veröffentlicht wird und eine dramatische Leistungssteigerung im Vergleich zu GPT-3 darstellen wird. Die meisten der weiterführenden Sprachmodelle wurden mit Datenkorpussen von etwa 300 Milliarden Token trainiert. Darunter zum Beispiel GPT-3 von OpenAI oder Jurassic von AI21 Labs. Forbes sagt voraus, dass GPT-4 auf einem Datensatz trainiert wird, der mindestens eine Größenordnung größer ist - vielleicht so groß wie 10 Billionen Token. Es könnte sogar möglich sein, dass GPT-4 multimodal sein wird. D.h. es könnte dann neben Text, auch mit Bildern, Videos und anderen Datenmodalitäten arbeiten. Wahrscheinlicher ist aber, dass GPT-4 ein reines Textmodell sein wird, dessen Leistung allerdings den Stand der Technik neu definieren wird. Zwei Sprachbereiche in denen es große Leistungssprünge geben kann sind "Gedächtnis", also die Fähigkeit auch auf Informationen aus vorherigen Gesprächen zurückzugreifen, sowie die Fähigkeit große Texte auf wesentliche Inhalte zu reduzieren, also Texte zusammenzufassen.
2. Daten für Sprachmodelle werden knapp
Es ist kaum vorstellbar, aber tatsächlich werden Daten für Sprachmodelle knapp. Forschungsarbeiten, wie die Chinchilla-Arbeit von DeepMind, haben gezeigt, dass der effektivste Weg, leistungsfähigere Large Language Models (LLMs) zu erstellen nicht darin besteht sie zu vergrößern, sondern sie mit mehr Daten zu trainieren. D.h. es sind massig Sprachdaten nötig, aber viele der Textdaten im Internet sind nicht nützlich um ein solches LLM zu trainieren. Laut einer Forschungsgruppe liegt der weltweite Gesamtbestand an hochwertigen Textdaten zwischen 4,600.000 und 17,2 Billionen Token. Dazu gehören dann bereits alle Bücher der Welt, alle wissenschaftlichen Abhandlungen, alle Nachrichten Artikel und die gesamte Wikipedia. Das Chinchilla-Modell von DeepMind wurde mit 1,4 Billionen Token trainiert, d.h. wir sind möglicherweise nur noch eine Größenordnung davon entfernt, den gesamten nützlichen Bestand der weltweit vorhandenen Sprachtrainingsdateien für LLMs zu verwenden. Damit wäre aber auch der Fortschritt in der Sprach-KIs limitiert. Hier gibt es also tatsächlich ein bedeutendes Hindernis für den weiteren Fortschritt.
3. Fahrerlose Autos werden als tägliche Fortbewegungsmittel genutzt
Um das Thema autonome Fahrzeuge gab es bereits viel Hypes, allerdings hat sich die frühe Euphorie in den letzten Monaten etwas gelegt und es wurde bedeutend ruhiger um das Thema fahrerloses Fahren. Dabei ist in letzter Zeit gerade hier einiges passiert und es sind tatsächlich schon heute fahrerlose Autos in Städten unterwegs. Die Firma Cruise bietet zum Beispiel fahrerlose Fahrten in San Francisco an. Man kann die Fahrzeuge über eine App bestellen und sich von A nach B transportieren lassen, ohne dass jemand hinter dem Steuer sitzt. Die fahrerlosen Fahrten werden derzeit zwar nur nachts zwischen 22:00 Uhr und 5:30 Uhr durchgeführt, das Unternehmen Cruise ist aber bereit den Service rund um die Uhr in ganz San Francisco anzubieten. Forbes prognostiziert, dass sich im Jahr 2023 Robo-Taxidienste schnell von einer faszinierenden Neuheit, zu einer praktikablen und bequemen Möglichkeit entwickeln, sich in der Stadt fortzubewegen. Die Zahl der Robo-Taxis und die Zahl der Menschen, die sie nutzen, werden steigen. Der Rollout erfolgt von Stadt zu Stadt. Autonome Fahrzeuge stehen also kurz vor dem Eintritt in ihre Kommerzialisierungsphase.
4. Die Suche im Internet wird sich stark verändern
Die Suche ist das Herzstück des modernen Internet Erlebnisses. Sie ist das wichtigste Mittel mit dem wir durch digitale Information navigieren und darauf zugreifen. Mit den enormen Möglichkeiten von GPT-3 entsteht auch die Idee der Conversational Search. Warum sollte man noch eine Suchanfrage eingeben und sich durch eine lange Liste von Links lesen, wenn man stattdessen über ein dynamisches Gespräch mit einem KI-Agenten finden kann wonach man sucht. Die größte Herausforderung hierbei ist jedoch die Ungenauigkeit der LLMs, denn sie geben gelegentlich sachlich unwahre Informationen mit großer Überzeugung weiter. Selbst Sam Altman, CEO von OpenAI warnte kürzlich selbst davor, sich bei wirklich wichtigen Dingen auf ChatGPT zu verlassen. Dieses Problem anzugehen wird eine große Herausforderung für Suchinnovationen im Jahr 2023 sein.
Die vollständigen 10 Vorhersagen für KI-Einsatz im Jahr 2023 finden Sie im Forbes-Artikel unter: https://www.forbes.com/sites/robtoews/2022/12/20/10-ai-predictions-for-2023/amp/
