3w ago

KI-Agenten: Mr. Bot, wir haben ein Problem

www.zeit.de

Archivlink

11 comments

Es gibt ein schönes altes Zitat von Mitch Ratcliffe dazu:
"A computer lets you make more mistakes faster than any other invention with the possible exceptions of handguns and Tequila"
Das ist mit KI jetzt noch treffender als zu der Zeit, in der er es geäußert hat.
Das Modell GPT-4o der ChatGPT-Firma OpenAI beispielsweise hatte eine Fehlerrate von mehr als 90 Prozent. Metas Llama-3.1-405b sogar von 92 Prozent und Amazons Nova-Pro-v1 scheiterte quasi bei allen Aufgaben (98,3 Prozent).
Ich hab wirklich Angst um meinen Job. :D
Sophie Warner, Inhaberin einer Marketingfirma, beschreibt in dem Bericht, dass sie ihren Kunden immer öfter helfen muss, weil sie mit der Hilfe von KI weitreichende Fehler in ihre Systeme eingebaut hätten.
Ein Unternehmen habe zum Beispiel tagelang keine Website mehr gehabt, nachdem es versucht habe, selbst eine neue Funktion zu implementieren: ChatGPT hatte dabei eine fehlerhafte Codezeile geliefert.
Ist sowas wie eine Versionsverwaltung in der Wirtschaft ein Fremdwort? Fummeln die direkt an ihrer Production-Software herum ohne die Änderungen vorher zu testen?
- Alle Firmen haben eine Testumgebung. Aber nur die guten haben zusätzliche eine Live-Umgebung.
Ich bin dafür, dass wir den Begriff "KI" für diese Technologie nicht mehr verwenden sondern nur noch Sprachmodelle sagen, um überzogene Erwartungen zu vermeiden.
- Statistisches Raten.
Wenn wir dies noch in die Köppe der Führungsebene bekommen könnten wäre ich sehr glücklich.
- Das Problem ist, dass die leider erst genau bei diesem Thema wach geworden sind und den Rest davor in ihrem "Ich kaufe alles bei Microsoft!!!111" hängengeblieben waren. Leider wird sich das fortsetzen und die Ergebnisse werden in Kauf genommen.
- So langsam ebbt der Hype ja ab. Mal schauen, was am Ende außer versenkten Milliarden übrig bleibt.
  
  Ja gut, nur hat meine Firma just gerade eine Abteilung für KI Belange eingerichtet. Aber gut im Gesundheitsversicherungswesen drehen die Mühlen langsam.
- ...vor allem, da meist genau die Gartner-Analysen und der Verweis auf "das Tal der Tränen", das jetzt wohl erreicht sei, die Antwort ist auf Kritik...

11 comments