חשיבה ביקורתית בשימוש בכלי בינה מלאכותית

חינוך מיני בעידן הבינה המלאכותית - פרק ב'

אם בפרק א' הצגתי את היתרונות של הבינה המלאכותית לתהליכי חינוך מיני, בפרק הזה אני רוצה להתייחס למיניות קריטית שעלינו ללמד את התלמידות/ים - המיומנות של חשיבה ביקורתית.

נכון שכל מחנכ.ת בתחום של מגדר ומיניות מלמדת מיומנות של חשיבה ביקורתית, אך במקרה של שימוש בכלי הבינה זאת ממש מיומנות קריטית. ריכזתי כאן סוגים שונים ודוגמאות להטיות רלוונטיות והצעות לדרכים ללמד על הטיות אלה:

הטיות בתוכן

הטיות בתוכן ניתן לחלק לשני סוגים: מידע לא מהימן והטיות חברתיות.

מידע לא מהימן

לא כל המידע המופק על ידי בינה מלאכותית הוא נכון או מהימן. כאשר למערכת בינה מלאכותית אין מידע מספק על נושא מסוים, היא עלולה "להמציא" מידע כדי להשלים פערים. זוהי תופעה הידועה כ"הלוצינציה" של בינה מלאכותית. אנחנו לא נשים לב למידע השגוי כי הוא יוצגת כמו שאר המידע המהימן. חשוב לציין שחלק מכלי הבינה המלאכותית עשויים לחסום או לצנזר תכנים הקשורים למיניות, מה שעלול להוביל למידע חלקי או לא מדויק.

הנה כמה דרכים ללמד חשיבה ביקורתית בהקשר של מהימנות:

1. הצלבת מידע: עודדו את התלמידות.ים תמיד להצליב מידע ממספר מקורות שונים, ולא להסתמך רק על מקור אחד, כולל בינה מלאכותית.

2. זיהוי מקורות מהימנים: זו הזדמנות מצוינת ללמד את התלמידות.ים כיצד להבחין בין מקורות מידע מהימנים ללא מהימנים. דונו במאפיינים של מקורות אמינים כמו מחקרים אקדמיים, ארגוני בריאות מוכרים, ומומחים מוסמכים בתחום.

3. בחינה ביקורתית של מידע: למדו את התלמידות.ים לשאול שאלות כמו: מהו מקור המידע? האם יש לו אינטרס מסוים? האם המידע מגובה במחקר או בראיות?

4. הבנת מגבלות הבינה המלאכותית: הסבירו לתלמידות.ים כיצד בינה מלאכותית עובדת, כולל המגבלות והאתגרים שלה. זה יעזור להם להבין מדוע חשוב להתייחס למידע שהיא מספקת בזהירות.

5. תרגול מעשי: תנו לתלמידות.ים משימות שבהן עליהן.ם להשוות מידע מבינה מלאכותית עם מקורות מידע אחרים, ולנתח את ההבדלים.

הטיות חברתיות

כלי בינה מלאכותית מתבססים על מידע קיים ברשת, ולכן עלולים לשכפל הטיות חברתיות ותרבותיות.

לצערנו ההטיות המגדריות והסקסיסטיות באות לידי ביטוי כמעט בכל ידע שהצטבר בעשרות השנים של הרשתות. למשל, בעת יצירת תוכן על מערכות יחסים, שמתי לב שלעתים התוצרים נוטים להציג בעיקר מערכות יחסים הטרוסקסואליות. במקרים אחרים הבינה שיכפלה תפקידי מגדר שמרניים לנשים ולגברים. ובמקרים אחרים ביקשתי מהבינה עצה כאמא למתבגרת וגיליתי שכששאלתי את אותה שאלה, עם אותם הנתונים על הסיטואציה רק המגדר שונה לבן - קיבלתי תשובה אחרת - המעידה על הטיות מגדריות מגוננות כלפי הבת לעומת אוטונומיה והדגשת חופש הבחירה של הבן. ובכל מקרה תימה מרכזית נעדרה מסגנון השיח - תימה של הנאה ועונג.

זו הזדמנות מצוינת לדון עם התלמידות.ים על ההטיות האלה וללמד אותן.ם להשוות בין התשובות של הבינה לבין המציאות (מתודה שאנחנו מורגלות.ים להנחות בכל כך הרבה תחומים).

הטיות מגדריות בתמונות

כשביקשתי מכלי בינה מלאכותית ליצור תמונות הממחישות מקצועות שונים, שמתי לב להטיה מגדרית ברורה. למשל, רופאים הוצגו בעיקר כגברים, ואחיות בעיקר כנשים. ולא רק בעולם העבודה ניכרת הטייה מגדרית, גם באופן כללי כשביקשתי מהמחולל ליצור לי תמונה של יום בעיר גדולה - רב האנשים בתמונה היו גברים.

הטייה מקוממת באה לידי ביטוי בעיקר בעברית. כשתנסו לייצר תמונה של גיבורת על - תקבלו לרב גיבור. למה? כי כשאנחנו כותבות בעברית את ההטייה בלשון נקבה - המחולל מתרגם את מה שכתבנו לאנגלית (superhero) ומכיוון שבאנגלית המילים הם א-מגדריות, ורב הדאטה של גיבורי על הם גברים - אז באופן אוטומטי, המחולל ייצר גיבור של גבר.

בנוסף, אפשר לראות באופן משמעותי את ההשפעות של מודל היופי של נשים על האופן בו מוצגות נשים בתמונות - הן ממש העתקה מפורשת של המודל הזה - לרב בעלות שיער חלק בלונדיני, רזות, צעירות, חלקות, וגם בהרבה מקרים הן מוצגות באופן מיני ובמבט מפתה. כך קרה כשביקשתי במפורש ממחולל התמונות ליצור לי תמונה של גיבורת על אישה - הלבוש שלה הדגיש את החזה שלה והמבט שלה היה מבט יותר מפתה.

ההטיות האלה מזמנות לנו הזדמנות נהדרת לשיחה על:

1. סטריאוטיפים מגדריים.

2. השפעת הדימויים שאנו רואים על תפיסת העולם שלנו.

3. חשיבות האיתגור של תפיסות מגדריות מסורתיות.

   
   

העדר גיוון

העדר גיוון היא בעיה נוספת שעלינו להיות מודעות.ים לה. לדוגמה, כשביקשתי תמונות המציגות "משפחה טיפוסית", התוצאות הציגו בעיקר משפחות לבנות, צעירות, ללא סימן חיצוני למגבלות ואפילו לא משקפיים (אגב גם כשביקשתי במפורש להוסיף משקפיים לאחת הדמויות - זה לא קרה). זה מאפשר דיון חשוב על:

1. מגוון

   בחברה שלנו.

2. הצורך בייצוג מכיל ומגוון בחומרי לימוד.

3. כיצד הטיות אלה משפיעות על תפיסת העצמי של תלמידים מרקעים שונים.

מה אפשר לעשות?

1. תרגלו ניתוח ביקורתי: שאלו שאלות, השוו למקורות מגוונים יותר, השוו בין התוצאות העוסקות בנשים/ילדות לבין אלה העוסקות בגברים/ נערים. אנחנו מאוד אוהבות הזדמנויות לניתוח ביקורתי - הבינה המלאכותית מזמנת לנו אין ספור דוגמאות.

2. צרו אלטרנטיבות: הנחו את התלמידות.ים ליצור גרסאות מכילות ומגוונות יותר של התוכן והתמונות - בתוך ההנחיות למחולל אפשר לכתוב דגשים למשל - "דמות אישה", גוון עור כהה, מבנה גוף מלא וכדומה. המלצה להנחיות לפרומפטים היוצרים דמויות במודל יופי מגוון כנסו ל-Dove: https://www.dove.com/us/en/stories/campaigns/keep-beauty-real.html

3. קיימו דיונים פתוחים: על ההשפעה של טכנולוגיה על תפיסות חברתיות ומיניות.

   
   
   
   

הנה כמה דוגמאות לתמונות שיצרתי ב-AI מתוך מודעות מגדרית: