גוגל, Openai, Roblox ו- Discord יש כוחות יונייטד ליצורROOST (כלי בטיחות מקוונים פתוחים), ארגון ללא מטרות רווח שמטרתו לשפר את האבטחה המקוונת של הילדיםו המטרה העיקרית היא להפוך את טכנולוגיות האבטחה הבסיסיות לנגישות יותר לחברות ולספק כלי בינה מלאכותית בחינם בחינם לזיהוי, לבחון ולדווח על חומר של התעללות מינית על קטינים (CSAM).
יוזמה זו נולדה מהדאגה ההולכת וגוברת מההשפעה של ה- AIS הגנאי על סביבות מקוונות והצורך "להאיץ חדשנות בבטיחות המקוונת של ילדים", כאמור על ידי אריק שמידט, לשעבר מנכ"ל גוגל ובן הזוג המייסד של רוסט. הפרטים על כלי הגילוי של CSAM הם עדיין נדירים, אך ידוע שהם ישתמשו במודלים לשוניים נהדרים של IA ו- "לאחד" את האפשרויות הקיימות לניהול תוכן זה.
מה אתה רוצה להיות רוסט
ההכרזה של רוסט מגיעה ברגע של דיון חזק על בטיחות הילדים במדיה החברתית ובפלטפורמות מקוונות, כאשר חברות מנסות להסדיר את עצמן כדי למנוע התערבויות מחוקקות מגבילות יותר. המרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC) רשם אעלייה של 12% בניצול החשוד של קטינים בין 2022 ל 2023ו
Roblox ו- Discord, בפרט, היו נושא לביקורת על ניהול בטיחות הקטינים בפלטפורמות שלהם. Roblox, עם יותר ממחצית מילדי ארה"ב שמשתמשים בזה, היהמואשם כי לא התמודד כראוי בניצול מיני של קטיניםוחשיפה לתוכן לא הולם. שתי החברות הוזכרו בגורם 2022 לא למנוע ממבוגרים לשלוח הודעות לילדים ללא פיקוח.
חברי המייסדים של רוסט מספקים מימון ומציעים את הכלים או כישוריהם לפרויקט. Roost תשתף פעולה עם המפתחים העיקריים של מודלים בסיסיים של IA לבניית "קהילת תרגול" עבור אמצעי הגנה על תוכן, שיכלול אספקת מערכי נתוני אימונים מאומתים וזיהוי פערי הבטיחות.
הגישה השיתופית והקוד הפתוח של רוסט נועדה לקדם חדשנות ולהפוך את תשתית הבטיחות לשקופה יותר, נגישה ומכילה. המטרה הסופית היא ליצור אינטרנט בטוח יותר לכולם, החל מההגנה על קטינים. היוזמה תקל על "הכלים הקיימים הנגישים ביותר", תוך שילוב טכנולוגיות גילוי ודיווח שונות בפתרון אחיד קל יותר ליישום עבור חברות אחרות.
Discord, למשל, יתרום עם הפרויקט שלו כדי לשתף את המידע הצלב -פלטפורמה של הפנס, בעוד שרובלוקס יכול להציע את מודל ה- IA שלו לגילוי תוכן לא הולם בקטעי שמע.
מה אתה חושב? יוזמות דומות לוויסות עצמי יכולות להיות מוצלחות או האם יש צורך בהתערבות חקיקתית? ספר לנו את ההערות למטה.
