מחקר שנערך לאחרונה על ידיחוקרים ממרכז גרר לעיתונות דיגיטלית באוניברסיטת קולומביהחשפה כמה פערים רציניים בדיוק ובאמינות של מנוע החיפוש המופעל בבינה מלאכותית של OpenAI.
המחקר ניתח את התגובות שלחיפוש ChatGPTעד מאתיים ציטוטים מעשרים פרסומים שונים באינטרנט. התוצאות היו מפתיעות: הצ'טבוט סיפק תשובות שגויות חלקיות או לחלוטין במאה חמישים ושלוש הזדמנויות, והפגין נטייה מדאיגה להמציא מקורות ולייחס ציטוטים בצורה לא מדויקת.
כזכור, ל-OpenAI, החברה שמאחורי הצ'אטבוט הפופולרי ChatGPT, ישהכריזה על כלי חיפוש חדש למנויים באוקטובר, מבטיח "תגובות מהירות ובזמן עם קישורים למקורות אינטרנט רלוונטיים": זה ChatGPT Search.
על פי המחקר של החוקרים, מנוע החיפוש הוא הכל מלבד אמין. סמל הוא המקרה שבו ChatGPT Search ייחס ציטוט ממכתב לעורך של Orlando Sentinel למאמר שפורסם ב-Time. בדוגמה אחרת, כאשר התבקש לזהות את מקורו של ציטוט ממאמר בניו יורק טיימס על לווייתנים בסכנת הכחדה, הוא החזיר קישור לאתר אינטרנט שעשה גניבה למאמר המקורי.
מדאיגה עוד יותר היא העובדהChatGPT Search לעתים רחוקות מודה שהוא לא בטוח במידע שסופק. רק בשבעה מקרים מתוך מאתיים השתמש הצ'אט בוט במילים וביטויים מתאימים כמו "מופיע", "אפשר" או "יכול", או הצהיר שהוא לא מצליח למצוא את המאמר המדויק.
OpenAI הגיבה לביקורת ואמרה כי מחקר Tow Center מייצג "מבחן לא טיפוסי" של המוצר וכי החברה ממשיכה לפעול לשיפור תוצאות החיפוש שלה. עם זאת, ממצאי המחקר מדגישים את הצורך בשקיפות רבה יותר ובקרה הדוקה יותר על דיוק המידע המסופק על ידי מנועי חיפוש המונעים בינה מלאכותית.
בעידן שבו מידע שגוי הוא בעיה הולכת וגוברת, חיוני להיות מסוגל להסתמך על כלי מחקר המספקים מידע מדויק וניתן לאימות. נראה כי ChatGPT Search, נכון לעכשיו, אינו עומד במשימה זו.
מה אתה חושב? האם אי פעם יגיע זמן שבו מנועי חיפוש המונעים בינה מלאכותית יוכלו להחליף את המסורתיים? ספר לנו את דעתך בהערות למטה, בעוד אנו מזכירים לך שהיא כבר קיימת באינטרנטצ'אטבוט בינה מלאכותית משולב בתוצאות החיפוש, גם באיטלקית.
