Warum kann eine KI nicht zählen?

Menschen und KI sind sehr ähnlich. KI ist weder immer gleich intelligent noch perfekt.

Large Language Models (LLMs) wie GPT funktionieren aber nicht wie Menschen und schon gar nicht sind sie exakt. Sie basieren nicht auf exakter Berechnung, sondern auf „kontextbasierter Wahrscheinlichkeitsmodellierung“.

Und LLM arbeiten auf der Ebene von „Tokens“. Diese Tokens werden vom Modell genutzt, um die nächsten Inhalte zu generieren, aber es gibt keine direkte Wort- oder Zeichenzählung.

Eine Analogie: So wie jeder Mensch unterschiedliche Mengen an Kalorien bei derselben Aktivität verbraucht, verarbeitet jedes LLM Tokens auf seine/ihre eigene Art.

Nicht jedes Zeichen oder Wort verbraucht gleich viele Ressourcen, und deshalb gibt es keine einfache „1:1-Zählung“.

Darum hat Erdbeere mal so oder mal so Zeichen. "Es" weiss nicht dass es "nichts" weiss. Und Du auch nicht. Ich auch nicht.

Darum hier mein Erklärungsversuch. Sag es bitte weiter, danke. Und sag mir, ob Dir diese Erklärung geholfen hat. Danke.

Der Blogbeitrag dazu auf LinkedIn

Bei Fragen: ⁠#fragRoger⁠

Sehen wir uns am Montag im KI Update?

Abonnier auch meinen ⁠Newsletter⁠.

Oder schau bei uns in der KI Community auf Skool vorbei:

Oder bei unserem ⁠KI Kurs⁠ vorbei