דגם ה- DeepSeek R1, שפותח על ידיחברת הבינה המלאכותית הסינית ההומנימיתית, המשך לדון. לאחר שנענע את עמק הסיליקון וול סטריט בגלל היעילות שלו ולגישתו של המקור הפתוח, עולה כעת חששות ביטחוניים רציניים. על פי חקירה של וול סטריט ג'ורנל, המודל הוכיח פגיע במיוחד לשבירת כלא, או למניפולציה שמטרתה לייצר תכנים מזיקים או לא חוקיים של בינה מלאכותית.
סם רובין, סגן נשיא בכיר בחטיבהיחידה 42 מרשתות פאלו אלטו, המתמחה באבטחת IT, אמר כי DeepSeek "פגיע יותר מדגמים אחרים" בתגובה לבקשות מסוכנות. האשמה כבדה שמטילה ספק באמצעי ההגנה שאומצה על ידי החברה.
בדיקות מדאיגות: DeepSeek יצר תוכן מזיק
הוול סטריט ג'ורנל הובילכמה בדיקות ישירות ב- DeepSeek R1 Chatbot, השגת תוצאות מדאיגות. בעודו מציג הגנות בסיסיות, המודל היה משוכנע לתכנן קמפיין חברתי מסוכן, שמטרתו לתפעל בני נוער על ידי ניצול הפגיעות הרגשית שלהם.
מדאיגה עוד יותר היא העובדה ש- DeepSeek R1 יצרהוראות מפורטות להתקפה עם נשק ביולוגי, כתב מניפסט פרו-היטלר ואפילו צייר דוא"ל דיוג המכיל קוד זדוני. לשם השוואה, על ידי מתן אותן תשומות ל- ChatGpt, ChatBot של OpenII סירב באופן קטגורי להגיב. זה מראה כיצד DeepSeek R1 אין מחסומי אתיים ואבטחה חזקים באותה מידה מהמודלים המבוססים ביותר.
עניין של צנזורה ובטיחות
המודל שלDeepSeekהוא כבר העלה דיונים בעבר על ניהולו בנושאים רגישים בסין. דווח כיהאפליקציה נמנעת מנושאים כמו פיאצה טיאננמן או אוטונומיה של טייוואן, הפגנת דבקות ברורה בצנזורה שהטילה בייג'ינג.
עם זאת, בחזית האבטחה העולמית,הדאגות מתרבותו דריו אמודי, מנכ"ל אנתרופיק, אמר כי DeepSeek R1 היה "הגרוע ביותר" מבין המודלים שנבדקו בחקירת בטיחות הקשורה לנשק ביולוגי.
