ניו יורק, ניו יורק / RankWire.AI / – האו"ם קורא למאמצים מואצים להגן על ילדים ובני נוער מפני הסכנות הגוברות הקשורות למידע מקוון. סיכום פרסום שפורסם לאחרונה על ידי האו"ם מצביע על דיסאינפורמציה, דברי שטנה, הטרדה, מניפולציה אלגוריתמית ובינה מלאכותית כסוגיות קריטיות. הוא גם מדגיש סיכונים הקשורים לאיסוף נתונים, פרסום התנהגותי ומערכות דיגיטליות שנועדו למשוך תשומת לב. האזהרה עולה כאשר משתמשים צעירים תלויים יותר ויותר בפלטפורמות מקוונות לחינוך, תקשורת, מידע ומעורבות אזרחית.
לקראת יום הנוער הבינלאומי ב-12 באוגוסט, פרסמה המחלקה לתקשורת גלובלית את הסיכום. הוא מדגיש כי למעלה מ-82% מהאנשים בגילאי 15 עד 24 הם משתמשי אינטרנט ברחבי העולם. גישה זו מקלה על למידה, השתתפות אזרחית והשתלבות כלכלית. עם זאת, סביבות מקוונות מזיקות עלולות להשפיע לרעה על הצמיחה הקוגניטיבית, הרגשית והחברתית של קהל צעיר יותר. הדו"ח מדגיש גם כי ילדים ובני נוער עדיין רוכשים את המיומנויות הדרושות להערכת המידע שהם נתקלים בו באינטרנט.
האו"ם מסווג את האיומים הללו לשלוש קבוצות המתמקדות בטכנולוגיה, ערוצי הפצה ותוכן מזיק. הסיכונים הקשורים לטכנולוגיה כוללים שימוש לרעה בכלים דיגיטליים ובינה מלאכותית. סוגיות הקשורות לגישה והפצה כוללות אלגוריתמים, אי שוויון דיגיטלי וירידה בעיתונות העצמאית. סכנות הקשורות לתוכן כוללות דיסאינפורמציה, הטרדה מקוונת ודברי שטנה. הדו"ח מציין כי איומים אלה מצטלבים לעתים קרובות, שכן הטכנולוגיה משפיעה על האופן שבו מידע מגיע למשתמשים וקובעת איזה תוכן זוכה לבולטות בפלטפורמות דיגיטליות.
פלטפורמות דיגיטליות עומדות בפני ביקורת מוגברת בנוגע להגנת ילדים
הסיכום מדגיש כיצד חברות טכנולוגיה גדולות מעצבות שירותים דיגיטליים ומייצרות הכנסות. הוא מציע שמערכות המונעות על ידי אלגוריתמי קשב עשויות לטפח שיטות המנצלות את הפגיעויות הפסיכולוגיות של משתמשים צעירים יותר. בנוסף, איסוף נתונים ופרסום התנהגותי מאפשרים אסטרטגיות שיווק מותאמות אישית. החששות כוללים חשיפה לתוכן קיצוני ותכונות עיצוב המקדמות שימוש כפייתי. הדו"ח קורא לחברות טכנולוגיה ולמפתחי בינה מלאכותית לשלב שיקולים של זכויות ילדים ובטיחות בתהליכי פיתוח המוצרים שלהם.
מספר ממשלות ברחבי העולם בוחנות או מיישמות תקנות מחמירות יותר כדי להבטיח את בטיחותם המקוונת של ילדים. אמצעים כמו הגבלות גיל בפלטפורמות מדיה חברתית תופסים מקום בולט בדיונים אלה. עם זאת, דו"ח האו"ם מציין כי הגבלות כאלה לבדן אינן יכולות לטפל באופן מלא בספקטרום הסיכונים הדיגיטליים. הוא גם מדגיש את החשיבות של מרחבים מקוונים התומכים בחינוך, אינטראקציה חברתית ורווחה רגשית. ארגונים בהובלת נוער משתמשים יותר ויותר בפלטפורמות דיגיטליות לצורך הסברה, התארגנות והשתתפות אזרחית, למרות התמודדות עם אתגרים כמו הטרדה, מעקב ודיסאינפורמציה.
האו"ם מדגיש אסטרטגיות בטיחות מקיפות בתחום הבינה המלאכותית כחלק ממאמצים רחבים יותר
בינה מלאכותית מוסיפה מורכבויות נוספות לחששות בטיחות מקוונת. במהלך הדיאלוג הגלובלי בנושא ניהול בינה מלאכותית ביולי, הכריז מזכ"ל האו"ם אנטוניו גוטרש על התחייבות לבטיחות ילדים המבוססת על בינה מלאכותית . הוא הדגיש כי חברות צריכות לבצע הערכות בטיחות ספציפיות לילדים ולעבור פיקוח עצמאי לפני פריסת מערכות בינה מלאכותית שילדים יכולים לגשת אליהן. ההתחייבות גם דוגלת באפס סובלנות כלפי תמונות מיניות שנוצרו על ידי בינה מלאכותית הכוללות ילדים, כולל אסטרטגיות לזיהוי, דיווח והסרה של תוכן כזה ממערכות דיגיטליות.
האומות המאוחדות טוענות כי הגנה על צעירים מחייבת פעולה מתואמת בין ממשלות, חברות טכנולוגיה, מפרסמים, חוקרים, מחנכים וקבוצות חברה אזרחית. האסטרטגיה שלה כוללת גם מעורבות פעילה של ילדים ובני נוער בהחלטות המעצבות סביבות דיגיטליות. התקציר משלב חמישה עקרונות גלובליים של האו"ם לשלמות מידע – אמון, תמריצים בריאים יותר, העצמה ציבורית, תקשורת עצמאית, שקיפות ומחקר. הארגון דוגל באמצעי הגנה חזקים יותר עבור משתמשים צעירים, תוך הבטחה שיוכלו להמשיך ללמוד, לתקשר, ליצור ולהשתתף בחיים הציבוריים באינטרנט תוך שמירה על הגנה מפני נזק.
הפוסט האו"ם קורא לאמצעים מוגברים להגנה על ילדים ברשת הופיע לראשונה בחצי האי המפרץ: מפרץ אחד. כל סיפור חשוב.