מה הבינה מבינה: הכל או שום דבר? [עושים טכנולוגיה]

האם ניתן, האם צריך ללמד את מערכות בינה מלאכותית את מה המשמעות של מה שהן כותבות? על פניו נראה שהן יודעות על מה הן מדברות. אחרי הכל, אני קורא את התשובות של ChatGPT והבוט הזה מתנסח בצורה יפה וכותב משפטים נהדרים. סביר להניח שאם הוא כותב כאלו משפטים הוא מבין את המשפטים, לא? אז זהו, שכנראה שלא. אוקיי, אז מה, האם זה חשוב?
מצד אחד יש קבוצה גדולה של חוקרים שטוענים שללא פריצת דרך טכנולוגית המערכות האלו לעולם לא יבינו את המשמעות של מה שהן כותבות מה שאומר שלא נוכל לסמוך עליהן. איך אתה יכול לסמוך על מערכת שמייצרת טקסט שהיא עצמה לא מבינה את המשמעות שלו?
אבל בצד השני יש קבוצה אחרת של חוקרים שטוענת שכדי להפיק טקסט טוב, הגיוני ובעל משמעות, כדי לספק שירות מועיל ויעיל, כמו נניח השירות של ChatGPT, המערכות האלו לא צריכות להבין את המשמעות של המלים כמו שאנחנו מבינים אותן ושיכול להיות שהמודלים האלו גילו משהו שאנחנו עוד לא גילינו בנוגע לאיך שפה עובדת, מהי הבנה ואיך נוצרת משמעות.
כדי להסביר מדוע הסוגיה הזו כל כך מרתקת, דרמטית וחשובה נשתמש בסינים, בתמנונים וגם בכמה תוכים אקראיים.

קישורים:
מאמר "תוכים הסתברותיים"
https://dl.acm.org/doi/pdf/10.1145/3442188.3445922

אתה לא תוכי וצ'אטבוטים אינם אנושיים
https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html

עזרא קליין מראיין את גארי מרקוס
https://www.nytimes.com/2023/01/06/podcasts/transcript-ezra-klein-interviews-gary-marcus.html

המקרה המסקרן של אינטליגנציית השכל הישר
https://www.amacad.org/publication/curious-case-commonsense-intelligence

בינה מלאכותית ומגבלות השפה
https://www.noemamag.com/ai-and-the-limits-of-language/

בינה מלאכותית משתלטת על השפה. האם לסמוך עליה?
https://www.nytimes.com/2022/04/15/magazine/ai-language.html?referringSource=articleShare

איך ChatGPT עובדת? הטקסט של סטיבן וולפרם
https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

מדוע מודלי השפה הגדולים לא יבינו שפה
https://jeremyhadfield.com/why-llms-will-not-understand-language

ההרצאה של יאן לקון באוניברסיטת NYU
https://www.youtube.com/watch?v=x10964w00zk

קישור לאתר הקריירה של חברת Indoor Robotics : https://www.indoor-robotics.com/careers/