איש המאתיים

בשנת 1976 פרסם סופר המדע הבדיוני האמריקאי הנודע, אייזק אסימוב (Asimov), סיפור קצר בשם "איש המאתיים" ("The Bicentennial Man"). הסיפור זכה בפרס הוגו ובפרס נבּולה לסיפור המדע הבדיוני הטוב ביותר לשנה זו. בשנת 1992 חברו יחדיו אסימוב ורוברט סילברברג (Silverberg), אף הוא סופר מדע בדיוני אמריקאי בעל שיעור קומה, כדי לכתוב את הספר "האיש הפוזיטרוני", המבוסס על הנובלה המקורית של אסימוב. הספר זכה להצלחה רבה, תורגם לשפות רבות (בהן לעברית, בהוצאת כתר), ובשנת 1999 אף עובד לסרט בשם "איש המאתיים" (בבימויו של כריס קולומבוס ובכיכובו של השחקן המנוח רובין וויליאמס בתפקיד אנדרו האנדרואיד). בבסיסו זהו סיפור מהנה ועם זאת מעורר מחשבה. הסיפור מעלה, בין השאר, כמה שאלות אתיות ומשפטיות שעשויות להיות רלוונטיות בעתיד שבו אינטליגנציה מלאכותית תאפשר ייצור של אנדרואידים (רובוטים דמויי אדם), עתיד שאולי איננו רחוק כל כך.

האנדרואיד ששאף להיות בן אנוש

סיפורו של אסימוב מתאר רובוט בשם אנדרו, בעל מוח פוזיטרוני (מושג שאסימוב מרבה להשתמש בו בסיפורי הרובוטים שלו), שכפוף לשלושת חוקי הרובוטיקה: הוא אינו רשאי לפגוע בבן אנוש; עליו לציית להוראותיהם של בני אדם; ועליו להימנע מפגיעה בו עצמו (אם החוקים מתנגשים עליו לציית להם בסדר זה, כלומר, אם אדם יצווה עליו להשמיד את עצמו הוא יעשה זאת משום שלחוק השני משקל גדול יותר מאשר לחוק השלישי). אנדרו משמש כמשרת בביתו של אדם בשם ג'רלד מרטין, ומפתיע אותו ביכולתו היצירתית (גילוף בעץ) שאיש, גם לא בחברה שייצרה את הרובוט, אינו מסוגל להסביר את מקורה. אנדרו עצמו, משנשאל על המניע שלו לגלף בעץ, עונה שהוא נהנה מכך. ג'רלד מעודד את אנדרו להמשיך ליצור ואף דואג להעמיד לרשותו חלק מהכסף שהתקבל ממכירת עבודותיו. הרובוט משתמש בכסף זה לשדרוג הדרגתי של מערכותיו, כך שיהיו יותר ויותר דומות למערכות ביולוגיות אנושיות. לאחר שנים רבות, כשג'רלד כבר מבוגר מאוד, ואף נכדתו (שאנדרו מכנה כל השנים "עלמה קטנה") כבר נשואה עם ילד, אנדרו מבקש לקנות את חירותו, וג'רלד מעניק לו אותה ללא תמורה כספית. אנדרו מתחיל ללבוש בגדים ומרחיב את השכלתו באמצעות קריאת ספרים. בעקבות ניסיונות פגיעה של אנשים שונים באנדרו נחלצים לעזרתו בנה ונכדה של "עלמה קטנה", שניהם משפטנים, ומצליחים להביא לחקיקת חוקים האוסרים על פגיעה ברובוטים. בהמשך, לאחר מותה של "עלמה קטנה" אנדרו מבקש להחליף את גופו המתכתי בגוף ביולוגי והופך לאנדרואיד. בהמשך משפץ אנדרו את גוף האנדרואיד שלו כך שיתפקד כגוף של אדם, ומתחיל לנהל מערכה משפטית כדי שיוכר כבן אנוש. מאחר שמוחו הפוזיטרוני אינו מתנוון עם השנים, ואלמותיותו אינה תואמת את הגדרת האדם, עובר אנדרו שינוי משמעותי אחרון, שמאפשר למוחו הפוזיטרוני להתנוון כמוח אנושי. כשהוא כבר בן 200 ועל ערש דווי, אנושיותו מוכרת באופן חוקי, והוא מוכרז כ"איש המאתיים" (אנדרו שבע רצון מההחלטה, אך מחשבתו האחרונה טרם פטירתו היא דווקא על "עלמה קטנה", עובדה שמרמזת אולי לאנושיותו יותר מכל קביעה משפטית).

שאלות אתיות ומשפטיות

שלושת חוקי הרובוטיקה של אסימוב, אשר מוטמעים במעגלי "המוח הפוזיטרוני", ללא ספק מעמידים את האדם במעמד גבוה יותר מאשר רובוטים. החוק הראשון אוסר על רובוט לפגוע פגיעה מכוונת בבני אדם, והחוק השני מחייב אותו לציית לבני אדם. אפילו החוק השלישי, שמחייב אותו למנוע פגיעה בעצמו (בתנאי שאין הדבר מתנגש עם אחד משני החוקים הראשונים), אינו נועד להגן על הרובוט מ"סבל" אפשרי (ואם מן הראוי להסיר ממילה זו את המירכאות נדון בהמשך), אלא להגן על רכושו של האדם, שכן לרובוטים מטרה אחת בלבד: לשרת את בני האדם. לשם כך הם יוצרו בסיפוריו של אסימוב, ואם חזונו יתממש, ובעתיד (אולי הלא כל כך רחוק) ייוצרו רובוטים בעלי אינטליגנציה מלאכותית, יש להניח שזו אכן תהיה מטרתם. האם יש היגיון בהענקת חירות למכונה שתוכננה על לוח השרטוטים ויוצרה באופן ששונה ממכונית או ממקרר אולי רק בהיותה דומה לבני אדם (אם מדובר באנדרואיד), בהיותה בעלת חיישנים (בתפקיד חושים), וביכולתה לפעול לפי אלגוריתמים מסובכים שמדמים התנהגות אנושית? האם יש היגיון בחקיקת חוקים להגנת מכונות כאלו מבני אדם (ולא רק במובן של הגנה על רכוש פרטי)?

על פניו נראה שהתשובה המתבקשת היא שלילית. מכונה היא מכונה, ובניגוד לבני אדם, שפגיעה בהם גורמת סבל אמיתי, הן לאדם והן לבני משפחתו ולחבריו הקרובים, מכונה אינה חשה כאב ואינה סובלת, גם אם מידת הדמיון שלה לבני אדם עשויה לעורר בנו את האשליה שמדובר בכאב ובסבל אמיתי. גם היום קל לכתוב תוכנת מחשב (או אפליקציה לטלפונים "חכמים") שתגיב בקול גניחה כאשר לוחצים על מקש מסוים, או שתשמיע קול בכי כאשר כותבים לה משפט "מעליב". אולם קולות שמכונה משמיעה אינם מעידים על רגשות אמיתיים או על כאב אמיתי. מן הסתם, אנדרואיד שיתנהג כנעלב ויפרוץ בבכי (ואפילו יזיל דמעה משקי דמעות שנשתלו בעיניו המלאכותיות), לא באמת יחווה "עלבון", ואף נראה שלא יחווה דבר. כל התנהגותו, ותדמה לאנושית ככל שתהיה, תהיה לא יותר מאשר תגובה שתוכתב לו על ידי אלגוריתמים משוכללים.

מצד שני, אפשר לטעון שההיסטוריה האנושית רצופה בהתפתחות מוסרית של החברה, שאחד מביטוייה הוא הענקת זכויות לקבוצות שקודם לכן היו משוללות זכויות: לפני כמה מאות שנים הובאו לאמריקה שבויים אפריקאים שנוצלו כעבדים חסרי זכויות, אך ברבות השנים הוענקו להם זכויות השוות לאלו של "האדם הלבן", ואף שגם כיום יש בארצות הברית לבנים המסרבים לראות באפרו־אמריקאים בני אדם השווים להם, הרי שמבחינת החוק הם נחשבים לבעלי זכויות מלאות; העבדות עצמה הפכה במרבית מדינות העולם לבלתי חוקית, וזאת לאחר היסטוריה ארוכה שבה עבדות הייתה נפוצה ומקובלת במרבית החברות – עבדים נקנו, נמכרו ונחשבו לרכוש בעליהם; יחס דומה לזה שזכו האפרו־אמריקאים בארצות הברית היה ועודנו מנת חלקם של מיעוטים רבים במקומות רבים בעולם, וחקיקה המגנה על זכויות המיעוטים היא בימינו אחד הסממנים לחברה מתוקנת; במקומות רבים בעולם ובכלל זה באמריקה ובאירופה, נשללה מנשים זכות בחירה עד המאה ה־20. זכות זו, שנראית לנו היום טבעית ובסיסית, הושגה על ידי נשים בעולם באמצעות מאבקים רבים. בשווייץ נשים קיבלו את זכות הבחירה רק ב־1971 (!) ובסעודיה ב־2011 (!!!); במהלך ההיסטוריה ילדים מגיל 9 או 10 כבר נחשבו לבוגרים מספיק לעבודה, ואף הועסקו בעבודות קשות בחקלאות ובתעשייה מזריחת החמה עד שעת ערב מאוחרת. היה זה תהליך הדרגתי שבו הוענקה לילדים ילדוּת, זכות שבעולם המערבי כיום נראית מובנת מאליה, אך עד סוף המאה ה־19 עבודת ילדים נחשבה נורמלית ואף חיונית. תפישה זו לצערנו עדיין קיימת בארצות מסוימות, למרות המאמצים של גופים שונים בעולם להקטין את ממדיה; היחס להומוסקסואלים היה במהלך ההיסטוריה שונה מחברה לחברה, כשבחברות רבות, בעיקר בחברות שבהן שלטה ושלטת דת מונותאיסטית (אך לא רק), היחס אליהם היה ועודנו מחפיר, כולל מקומות שבהם על הומוסקסואלים מרחפת סכנת עונש מוות. ההכרה בכך שהומוסקסואלים אינם ראויים לגנאי ושיש להעניק להם את מלוא הזכויות שמוענקות לשאר האוכלוסין, ואשר במשך שנים ארוכות נמנעו מהם, מחלחלת בהדרגה לחברות רבות בעולם, ואף היא נחשבת לסממן של חברה מתוקנת ונאורה; בימינו יש אף קבוצות רבות שנאבקות על זכויותיהם של בעלי חיים. המאבק הוא על זכותם לחיים ללא סבל וללא התאכזרות מצד בני האדם, ובמידת האפשר לצמצום הרבעתם לצורך מאכל. אפשר שביום מן הימים נתקשה להאמין כיצד התייחסו בעבר (כלומר – בימינו אלה) לבעלי חיים, בדיוק כפי שקשה לנו להבין כיצד בעבר התייחסו אל אנשים כהי עור, אל נשים, אל ילדים ואל הומוסקסואלים באופן שכיום נתפש על ידינו כבלתי מתקבל על הדעת. מכיוון שמדובר בתהליך הדרגתי של התפתחות מוסרית שבמוקדה היחס לזולת, אין זה בלתי נמנע, שהיחס לרובוטים בעלי אינטליגנציה מלאכותית יעבור התפתחות דומה, ובמשך הזמן יוענקו להם זכויות שיגנו  עליהם מפני אכזריות של אנשים, יעניקו להם מידה זו או אחרת של חירות, ואולי בסופו של דבר יאפשרו להם לחיות כשווי זכויות לצדנו. אלא שההתפתחות המוסרית שעברה החברה הייתה מכוונת כלפי בני אדם ובעלי חיים בשר ודם, החשים ומסוגלים לכאוב, לסבול ולחוש עלבון ותסכול. האם יש הצדקה להחיל זאת אף על מכונות שאינן מסוגלות לחוש, שאולי באומרן "הייתי רוצה להיות חופשי" אינן מביעות רצון של ממש אלא פועלות על פי אלגוריתם משוכלל, שמאפשר להם ללמוד ולהתפתח, אך אינו הופך אותם ליצורים בעלי תודעה במלוא מובן המלה?

מתוך הסרט "איש המאתיים"
במאי: כריס קולומבוס
הפקה: סרטי קולומביה ו-Touchstone
1999, ארצות הברית

שאלת התודעה

בסופו של דבר שאלת המפתח לקביעת יחסנו לרובוטים עתידיים עשויה להיות האם מוחם המלאכותי (מן הסתם לא פוזיטרוני, אלא מערכת שבבים משוכללת המדמה אולי את פעולת המוח האנושי) מסוגל לייצר תודעה, כלומר, האם רובוטים או אנדרואידים יהיו בעל מנעד תחושות מסוים, ולוּ מצומצם. אם לא – נראה שאין הצדקה להעניק להם זכויות כלשהן ולהגן עליהם מפגיעה מעבר להגנה המקובלת בחוק על רכוש. אולם אם יהיה במוח מלאכותי זה ולו זיק של תודעה, נראה שהמוסר יחייב אותנו להתייחס אל בעליו לפחות באותה מידה של אנושיות שבה אנו מתייחסים אל חיות המחמד שלנו.

הקושי הגדול יהיה, מן הסתם, להחליט האם מאחורי הבעות הפנים האנושיות לכאורה של אנדרואידים (או תגובות מסוימות של רובוטים) עומדות תחושות אמיתיות של כאב, שמחה, עצב, שביעות רצון וכדומה. קושי זה נובע מכך שאין לנו שמץ של מושג איך המוח האנושי (או מוח בכלל) מייצר מצבי תודעה. באמצעות מכשור משוכלל אנו מסוגלים כיום להראות שפעילות מוחית מסוימת, ואפילו ברמת הפעילות של נוירונים בודדים, תואמת דיווחים על התנסויות נפשיות מסוימות. אפשר להראות שגירוי חשמלי של אזורים מסוימים מעורר תחושות מסוימות, או שאצל אדם שמדווח על תחושת כאב יש פעילות של קבוצת נוירונים במקום מסוים במוח, אולם לאיש אין מושג כיצד פעילות מוחית כלשהי מסוגלת לייצר התנסות נפשית. לאיש לא ברור מדוע פעילות של נוירון (או קבוצת נוירונים) מייצרת בנו תחושת כאב, או התנסות של אדום, או צליל של גיטרה, או ריח של קפה, או תחושת עונג, או תחושת עצב עמוקה. יתרה מכך, אין לחוקרי המוח כיום אפילו קצה של חוט איך לקשר בין פעילות מוחית למצבים נפשיים, למעט הצבעה על מתאמים ביניהם. מיטב התיאוריות הקיימות כיום בנושא מתארות קשרים אלו אך לא מסבירות אותן.

באופן מפתיע אולי, בשל היותם של המצבים הנפשיים פרטיים (כלומר, לכל אחד יש גישה ישירה למצביו הנפשיים בלבד, ולגבי מצבי נפש של אנשים אחרים אנו מקישים), אין לנו דרך לדעת בוודאות שגם לאנשים אחרים ולבעלי חיים אחרים יש התנסויות נפשיות (בעיה זו מכונה בעגה המקצועית בעיית הנפשות האחרות). בהיעדר ודאות, אנו מניחים שהדמיון במבנה המוח ובתפקודו מעיד על כך שגם לזולת התנסויות נפשיות דומות לשלנו: שאנקת כאב מלווה בתחושת כאב, שהקשבה לניגון מלווה בחוויית צליל, שחיוך מאוזן לאוזן מלווה בתחושת שביעות רצון וכך הלאה. ומה לגבי בעלי חיים אחרים? בעבר היו שסברו (רנה דקארט, למשל, שהיה אחד הפילוסופים הבולטים במאה ה־17), שלבעלי חיים אחרים אין נפש, ושתגובותיהם אוטומטיות כשל מכונה משוכללת. כיום מקובלת יותר הדעה שגם מוחם של בעלי חיים, אם הוא מפותח דיו, מסוגל להפיק התנסויות נפשיות (לגבי בעלי חיים בעלי מוח קטן ופשוט הדעות חלוקות).

אם כן – כיצד נוכל לדעת אם מוחם של אנדרואידים מפיק חוויות נפשיות, ולו במנעד מצומצם? התשובה היא, שכנראה לא נוכל לדעת זאת. מצד אחד התנהגות מתוחכמת של אנדרואיד לא תוכל להעיד על מצבים נפשיים מכיוון שאפשר יהיה להסביר את התנהגותו כמופעלת על ידי אלגוריתם משוכלל; אולם מצד שני, האם אין בני האדם עצמם פועלים על פי אלגוריתמים מסוימים שהטבע חיווט במוחנו? האם אין אנו מגיבים באופן צפוי למדי למגוון מצבים? התנהגות מבוססת אלגוריתם אין בה כשלעצמה כדי להבטיח שלייצור שמפגין התנהגות מסוימת אין התנסויות נפשיות. אז אם הדבר היחיד שאמור לקבוע את יחסנו לרובוטים ואנדרואידים עתידיים היא התשובה לשאלה אם מוחם המלאכותי יהיה מסוגל להפיק מצבי תודעה, נראה שלא תהיה בידינו דרך להחליט אם מן הראוי להעניק להם הגנה וזכויות כלשהן, או להתייחס אליהם כאל לא יותר מאשר מכונות משוכללות. אבל אפשר שיש שיקול נוסף שיכריע את הכף לגבי אופיים הראוי של יחסי אדם־אנדרואיד.

מתוך הסרט "איש המאתיים"
במאי: כריס קולומבוס
הפקה: סרטי קולומביה ו-Touchstone
1999, ארצות הברית

אתיקה של העתיד

כשבוחנים את ההתפתחות המוסרית האנושית, ואת ההכרה ההדרגתית בזכויותיהם של מיעוטים, של נשים, של ילדים, של הומוסקסואלים ושל בעלי חיים, אפשר לראות שלא רק האוכלוסייה שמקבלת את זכויותיה וזוכה בהגנת החברה מרוויחה מהתהליך, אלא החברה כולה, שהופכת נאורה יותר, מחנכת את ילדיה לקבלת הזולת במקום לשנאתו, ויוצרת מקום טוב יותר לחיות בו. אפשר שהענקת זכויות בסיסיות לאנדרואידים והקפדה על יחס הולם אליהם יהיה דבר חשוב לחברה גם אם לא נוכל לקבוע שהם מסוגלים לחוש כאב, צער או שמחה (או אפילו אם נוכל לקבוע שאין הם מסוגלים לחוש דבר). ילדים ואף לא מעט מבוגרים מזילים דמעה כאשר בסרט "מלך האריות", סימבה האריה מת. עצם העובדה שמדובר בדמות מצוירת אינה מונעת את התגובה הרגשית שמקורה ביכולת ההזדהות הטבועה בנו. בחברה עתידית ילדים יבכו כאשר הם יראו שמתייחסים באופן משפיל או אכזרי לאנדרואיד האהוב שלהם, וגם מבוגרים יגיבו רגשית על היחס לאנדרואידים, ותגובות אלה יהיו טבעיות ומבוססות רגש, לא היגיון. גם ההבנה שמדובר בסך הכל במכונות משוכללות לא תמנע את התגובה הרגשית שלנו לנוכח אנדרואיד פצוע או מושפל, ובוודאי שלא נוכל להרגיע ילדים במשפט מהסוג "זו בסך הכל מכונה" ("זה בסך הכל אריה מצויר"…). ילדים יגדלו להיות אנשים טובים יותר אם הם יבינו שהם אינם רשאים לפגוע באנדרואיד שמסתובב בבית או ברחוב בדיוק כפי שהם אינם רשאים לפגוע בבעל חיים חסר אונים. השלמות המוסרית של הבנת האיסור לפגוע בזולת עלולה להיפגם מרגע שמאפשרים תנאים מקלים: "אסור לפגוע בזולת, אלא אם כן הזולת הוא…".

לסיכום, אם כן – נראה שבחברה עתידית שבה אנדרואידים שממלאים תפקידים לטובת האנושות יסתובבו בקרבנו, יהיה עלינו להתייחס אליהם באופן הוגן, להימנע מפגיעה בהם ולהגן עליהם ועל זכויותיהם באמצעות תחיקה, וכל זאת גם אם לאנדרואידים אלו לא תהיה נפש (על אחת כמה וכמה אם כן תהיה להם), משום שיחס כזה יהפוך את החברה שלנו לטובה יותר, ותיצור מקום שטוב יותר לחיות בו. התנהגות של שביעות רצון וביטויי שמחה מצד האנדרואידים, גם אם יהיה מדובר בהתנהגות מכנית שאין מאחוריה מצבי נפש, תגרום לנו להרגיש טוב יותר, ותהפוך את ילדינו לאנשים טובים יותר.