- אקס מכינה -
- דוא"ל אח"מים התקבל - - נושא: הגרלה צוותית -
- פרס ראשון -
- אנדי טי - - זכיתי -
- ?!מה? ברצינות - - כן. ברצינות -
- סיפור יפה, אחי -
- אלוהים, פשוט ענק -
- !?קח אותי, קח אותי -
?בעוד כמה זמן נגיע לאחוזה שלו
אנחנו טסים כבר שעתיים .מעל לאחוזה שלו
?אתה משאיר אותי כאן
אסור לי להתקרב יותר מזה .אל הבניין
?איזה בניין
.לך במורד הנהר
.בסדר
,כופף את הראש .והתרחק מהלהבים
.בסדר
אין קליטה
.כיילב סמית
.כן
גש בבקשה אל העמדה .ועמוד עם הפנים אל המסך
.קח את הכרטיס המגנטי שלך
.כעת תוכל להיכנס אל הבית
?הלו
.כיילב סמית
.הי
!אחי
.חיכיתי כל כך לשבוע הזה איתך
.תיכנס. תיכנס
.תודה
אתה רוצה משהו לאכול ?או לשתות אחרי המסע
.לא. לא, תודה, אני בסדר ?בטוח-
.כן
האמת היא שחשבתי
...שנאכל ארוחת בוקר ביחד, אבל
.אני לא מסוגל לאכול כלום
.אני סובל מהאם-אימא של ההנגאובר ?כן-
.אלוהים, אתה לא תאמין
,אחרי לילה של שתייה כבדה
.אני מפצה על זה למחרת בבוקר ?התעמלות. נוגדי חמצון. אתה יודע
.כן, בטח
?זאת היתה מסיבה טובה
?מסיבה ?כן. לא היתה מסיבה-
.לא היתה מסיבה
.מצטער
כיילב, פשוט אומר את זה ?כדי שזה ייאמר, בסדר
.אתה מבועת
?באמת כן. אתה מבועת-
,מהמסוק ומההרים ומהבית
.כי הכול כזה מגניב
,אתה מבועת ממני ,מהפגישה איתי
מכך שאנחנו מנהלים את השיחה הזאת ?בחדר הזה, ברגע הזה. נכון
ואני מבין את זה. אני מבין ...את הרגע שעובר עליך, אבל
?אחי, אפשר פשוט להתגבר על זה
?נוכל להיות סתם שני בחורים .נייתן וכיילב
.בלי כל הקטע של עובד ומעביד
.כן, בסדר ?כן-
.כן. כן
.נעים להכיר, נייתן
.נעים להכיר, כיילב
נראה לי שהדבר הראשון שצריך לעשות .זה להבהיר את עניין הכרטיס
.זה פשוט למדי
דלתות מסוימות .הוא פותח ואחרות לא
?וזה פשוט מקל עליך, נכון
.כן
,כן, כי אתה כאילו .זין, אני בבית של מישהו אחר"
"?אני יכול לעשות את זה או את זה"
,והכרטיס הזה .הוא פשוט מסיר כל דאגה
אם תנסה לפתוח דלת והיא .תישאר נעולה, בסדר, אין כניסה
,אם תנסה דלת אחרת והיא תיפתח .מותר לך להיכנס
.בוא ננסה את זאת
.נראה שמותר לך להיכנס, כיילב
?אהבת .כן-
.זה החדר שלך
.יש לך כאן מיטה
.שירותים כאן מאחור
.שולחן עבודה קטן
.ארונות
.מקרר קטן
?חמים ונעים, נכון
.כן, זה נהדר
?מה ?סליחה-
?יש בעיה. מה הבעיה
.אין שום בעיה
.החלונות
".אתה חושב, "אין חלונות
.אנחנו מתחת לאדמה
,זה לא חמים ונעים .זה קלסטרופובי
.לא. אין סיכוי .לא חשבתי ככה
".חשבתי, "זה ממש מגניב
כיילב, יש סיבה לכך .שאין חלונות בחדר הזה
?באמת
.הבניין הזה איננו בית
.הוא מתקן מחקר
בתוך הקירות הללו קבורים מספיק סיבים אופטיים
.להגיע לירח ולקשור אותו
ואני רוצה לדבר איתך ,על תחום המחקר שלי
.אני רוצה לחלוק אותו איתך
למעשה, אני כל כך רוצה לחלוק .אותו איתך שזה אוכל אותי מבפנים
אבל קודם אתה צריך .לעשות משהו למעני
".'הסכם סודיות 'המחברת הכחולה"
.קח את הזמן. תקרא אותו
החתום מטה מסכים לביקורת נתונים" קבועה עם גישה בלתי מוגבלת
כדי לוודא שלא התבצעה" כל מסירת מידע
בפורומים ציבוריים או פרטיים"
,באמצעות כל סוגי התקשורת"
,כולל, אך לא מוגבל" ,למידע שנמסר בעל פה
בכתב או באמצעות" ".מדיה אלקטרונית
.נראה לי שאני צריך עורך דין
.זה סטנדרטי .זה לא נראה לי סטנדרטי במיוחד-
.בסדר, זה לא סטנדרטי
?מה אוכל לומר לך, כיילב .אתה לא חייב לחתום
אתה יודע, נוכל לבלות את הימים הבאים
.במשחקי סנוקר ובשתייה לשכרה .נתחבר
,וכשתגלה מה פספסת, בעוד כשנה
.תתחרט על זה עד סוף ימיך
.החלטה טובה
,אם כך
?אתה יודע מה זה מבחן טיורינג
.כן
.אני יודע מה זה מבחן טיורינג
זאת אינטראקציה .בין אדם לבין מחשב
ואם האדם לא מבין ,שהוא קיים אינטראקציה עם מחשב
.המבחן בוצע בהצלחה
?"ומה זאת אומרת, "הצלחה
.שלמחשב יש בינה מלאכותית
?אתה בונה בינה מלאכותית
.כבר בניתי
,ובימים הבאים
אתה תהיה המרכיב האנושי .במבחן טיורינג
.די .כן, נכון, כיילב. התקבלת-
,כי אם נצליח במבחן
אתה תעמוד במרכז האירוע המדעי .הגדול ביותר בהיסטוריה של האדם
,אם יצרת מכונה עם מודעות .זאת לא ההיסטוריה של האדם
.זאת ההיסטוריה של אלים
- אווה: מפגש 1 -
.שלום
.היי
.אני כיילב
.שלום, כיילב
?יש לך שם
.כן
.אווה
.נעים להכיר, אווה
.גם לי נעים להכיר אותך
.מעולם לא פגשתי מישהו חדש
.רק את נייתן
.אז אני מניח ששנינו במצב זהה
?אתה לא פגשת המון אנשים חדשים
.איש לא היה כמוך
.אז אנחנו צריכים לשבור את הקרח
?את יודעת למה אני מתכוון בזה .כן-
?למה אני מתכוון
להתגבר על המבוכה .החברתית הראשונית
.אז בואי ננהל שיחה
.בסדר
?על מה תרצה לשוחח
אולי נתחיל ?בכך שתספרי לי משהו על עצמך
?מה תרצה לדעת
.כל מה שעולה לך בראש
.טוב, אתה כבר יודע את שמי
.ואתה רואה שאני מכונה
?אתה רוצה לדעת בת כמה אני .ודאי-
.אני בת אחת
?אחת מה
?שנה או יום .אחת-
?מתי למדת לדבר, אווה
,תמיד ידעתי לדבר
?וזה מוזר, נכון
?למה
.כי שפה היא משהו שאנשים רוכשים
טוב, יש מי שמאמין .ששפה קיימת מרגע הלידה
ומה שנלמד זה היכולת לחבר מילים
.ומבנה בהתאם ליכולת הרדומה ?את מסכימה עם זה
.אני לא יודעת
?תחזור מחר, כיילב
.כן
.יופי
.בנאדם, היא מרתקת
...כשאתה מדבר איתה, אתה פשוט
.מבעד למראה
.מבעד למראה." וואו"
.אתה טוב עם מילים, כיילב .אתה שווה ציטוט
.למעשה, זה ציטוט של מישהו אחר
,אתה יודע .כתבתי את המשפט האחר שהמצאת
את המשפט
,שאם המצאתי מכונה עם מודעות
.אני לא אדם, אני אל
...לא נראה לי שזה בדיוק מה שאני
".חשבתי, "זין, בנאדם, זה כזה טוב
.כשיצא לנו לספר את הסיפור ?אתה יודע
,פניתי אל כיילב
,והוא הביט בי ואמר
".אתה לא אדם, אתה אל"
.כן, אבל לא אמרתי את זה
...אז
.בכל מקרה
.זה הרשים אותך
.כן. כן
...אם כי ?אם כי-
?יש סייגים למה שמרשים אותך
.לא, אין סייגים לגביה
,פשוט במהלך מבחן טיורינג
צריך להסתיר את המכונה .מעיני הבוחן
,לא, לא, לא .עברנו את השלב הזה מזמן
אילו הסתרתי את אווה ,והיית רק שומע את קולה
.היית בטוח שהיא אנושית
המבחן האמיתי הוא להראות לך שהיא רובוטית
ולראות אם עדיין תרגיש .שיש לה מודעות
.כן, נראה לי שאתה צודק
.יכולות השפה שלה, הן מדהימות
?המערכת סטוכסטית. נכון
.היא לא-דטרמיניסטית
בהתחלה חשבתי שהיא ממפה
מתצורה סמנטית פנימית ,לעץ תחביר סינתטי
.ואז מקבלת מילים לינאריות
אבל אז התחלתי להבין .שהדגם הוא מעין בן-כלאיים
.כיילב
?לא
אני מבין שאתה רוצה .שאסביר איך אווה פועלת
,אבל אני מצטער .לא אוכל לעשות את זה
.נסה אותי .אני מתלהב מהפשטה ברמה גבוהה
זה לא משום .שאני חושב שאתה טיפש מדי
זה משום שאני רוצה לשתות איתך .בירה ולדבר. לא לנהל סמינר
.כן. מצטער
.לא, זה בסדר. אתה בסדר
...פשוט
.ענה לי על זה
?איך אתה מרגיש לגביה
.לא משהו אנליטי
?פשוט איך אתה מרגיש
אני מרגיש
.שהיא פשוט מדהימה
.אחי
.לחיים
.לעזאזל
?מה הקטע
.הפסקת חשמל .מערכת הגיבוי הופעלה
המתקן בנעילה מלאה .עד שהמחולל הראשי יחזור לפעול
.אתם צוחקים עליי
המתקן בנעילה מלאה .עד שהמחולל הראשי יחזור לפעול
.החשמל חזר לפעול
?הלו
.אנא הכנס כרטיס מגנטי
.אין לך גישה לטלפון
.הי
,סליחה, אבל אתה מבין את זה ,בהתחשב באווה
.ובכך שאני לא באמת מכיר אותך
.כלומר, אתה בחור נהדר
.נעשינו חברים בן רגע, וכל זה
?למי תתקשר
.אני לא יודע .לאף אחד, בעצם
.למכסחי השדים ?מה-
...למי תתקשר? למכסחי השדים. זה
.זה סרט, בנאדם
?אתה לא מכיר את הסרט הזה
.רוח רפאים מוצצת לדן אקרויד
.פשוט תהיתי איך הטלפון פועל
.זה הכול
?אז למה אתה ער בשעה כזאת ?באת להצטרף למסיבה
.משהו קרה בחדר שלי
.מין הפסקת חשמל
.אז באתי לראות מה קורה
.הפסקות החשמל, כן
.הן קורות לאחרונה
.אני עובד על זה
לא הצלחתי לפתוח .את דלת חדר השינה שלי
.זה אמצעי ביטחוני
,נעילה אוטומטית. אחרת
כל אחד יוכל לפתוח את המקום הזה .בכך שהוא ינתק את החשמל
,אם זה יקרה שוב ?קח את זה בקלות. בסדר
.בטח
.חלומות פז
.הי
.הי, בנאדם .בוקר טוב-
בוקר טוב. סליחה שנאלצתי ,לשלוח את קיוקו להעיר אותך
אבל לא רציתי .שיותר מדי מהיום יחלוף
.כן, אני יודע .זה היה דבר טוב. תודה
?היא שעון מעורר לעניין, מה
.ישר מזדקפים על הבוקר
.אז יום מספר שתיים ?אתה מוכן
.מה התכנון? ספר לי
.כן, טוב, אני לא בטוח
אני עדיין מנסה .להבין את פורמט המבחן
כן, אני מרגיש כאילו
לבדוק את אווה דרך שיחה ."זה כמו לפעול ב"לופ
?"לפעול ב"לופ .כן-
זה כמו לבחון מחשב שמשחק שח .בכך שרק משחקים איתו שח
?אז איך תבחן מחשב שמשחק שח
.זה תלוי
,אתה יודע, כלומר אתה יכול לשחק איתו
כדי לברר אם המהלכים שלו ...טובים, אבל
אבל זה לא יגיד לך .אם הוא יודע שהוא משחק שח
וזה לא יגיד לך .אם הוא יודע מה זה שח
אז זו סימולציה .בניגוד למשהו אמיתי
.כן. כן
ואני חושב שהיכולת להבחין בין השניים
היא מבחן הטיורינג .שאתה רוצה שאבצע
.תראה, תעשה לי טובה .רד מהגישה המקובלת
אני פשוט רוצה .תשובות פשוטות לשאלות פשוטות
אתמול שאלתי אותך איך אתה מרגיש .כלפיה ונתת לי תשובה נהדרת
עכשיו השאלה היא
?מה היא מרגישה כלפיך
- אווה: מפגש 2 -
?מה דעתך
?ציור של מה זה
?אתה לא יודע
.לא .חשבתי שתגיד לי-
?את לא יודעת
.אני מציירת בכל יום
.אבל אני אף פעם לא יודעת מה
?את לא מנסה לצייר משהו ספציפי
?למשל חפץ או אדם
.אולי תוכלי לנסות
.בסדר
?איזה חפץ כדאי לי לצייר
.מה שתרצי. ההחלטה שלך
?למה זאת החלטה שלי
.מעניין אותי לראות במה תבחרי
?אתה רוצה להיות חבר שלי
.כמובן
?זה אפשרי
?למה לא
.השיחות שלנו חד-צדדיות
,אתה שואל שאלות שקולות .ובוחן את תשובותיי
.כן
,אתה לומד עליי
.ואני לא לומדת עליך דבר
.זה לא בסיס לחברות
?אז מה ?את רוצה שאדבר על עצמי
.כן
...היכן
?בסדר, היכן להתחיל
.זו החלטה שלך
.מעניין אותי לראות במה תבחר
.בסדר, אווה
,טוב
.שמי ידוע לך
.כן .אני בן 26-
.אני עובד בחברה של נייתן
?את יודעת מה החברה שלו
."המחברת הכחולה"
.על שם הרשימות של ויטגנשטיין
זה מנוע החיפוש ,הפופולרי ביותר בעולם
שמעבד כ-94 אחוזים .מכל בקשות החיפוש ברשת
.נכון מאוד
?איפה אתה גר, כיילב
.ברוקהייבן, לונג איילנד
?נחמד שם
.בסדר שם
.יש לי דירה .היא קטנה למדי
.היא קטנה מאוד
אבל היא במרחק חמש דקות הליכה מהמשרד
,וחמש דקות הליכה מהים
.דבר שאני אוהב
?אתה נשוי
.לא
?הסטטוס שלך הוא רווק
.כן
?מה עם המשפחה שלך
.גדלתי בפורטלנד, אורגון
.אין לי אחים או אחיות
.הוריי היו מורים בתיכון
,ואם אנחנו לומדים להכיר
אני מניח שעליי לספר לך .ששניהם מתים
.תאונת דרכים כשהייתי בן 15
.למעשה, הייתי איתם במכונית
.במושב האחורי
אבל החלק הקדמי .ספג את המכה הכי קשה
.אני מצטערת
.זה בסדר
.הייתי מאושפז המון זמן
.כמעט שנה
.והתחלתי להתעניין בתכנות
,ועד שהגעתי למכללה .היה לי ידע נרחב למדי
.מתכנת מתקדם
.כן
.כמו נייתן
.כן
.לא
.זה שונה
נייתן כתב את קוד המקור .של "המחברת הכחולה" כשהיה בן 13
,שאם את מבינה בתכנות .זה מזכיר את מה שמוצרט עשה
?אתה אוהב את מוצרט
.אני אוהב את דפש מוד
?אתה אוהב את נייתן
.כן, כמובן
?נייתן חבר שלך ?חבר שלי-
.אני... כן, אני מקווה שכן
?חבר טוב
.כן
,טוב, לא, לא, לא .כלומר, לא חבר טוב
...חבר טוב הוא
.רק עכשיו הכרנו, את יודעת
...לוקח זמן עד שלומדים
.להכיר זה את זה, אני מניח
.הפסקת חשמל .מערכת הגיבוי הופעלה
.כיילב
.אתה טועה
?בנוגע למה
.נייתן
?באיזה מובן
.הוא לא חבר שלך
?סליחה
.סליחה, אווה, אני לא מבין
.אסור לך לבטוח בו
אסור לך להאמין .לאף מילה שהוא אומר
.החשמל חזר לפעול
ואם נערוך רשימת ספרים ,ויצירות אמנות ששנינו מכירים
.זה ייצור בסיס אידאלי לשיחה
?זה בסדר
?כיילב
.כן
.יופי
.תודה
?שיט! את צוחקת עליי
?נשפך עליך ...לא, לא, זה-
.זה בסדר. אני מסתדר
אחי, זה בזבוז זמן .לנסות לדבר איתה
.היא לא מבינה אנגלית .פשוט תן לה את המפית
.סליחה
.זה כמו חומת אש נגד הדלפות
אני יכול לדבר על סודות מקצועיים .בארוחת ערב ולדעת שהם לא ייחשפו
זה גם אומר שאני לא יכול להגיד לה שאני מתעצבן
כשהיא גמלונית עד כדי כך .שהיא שופכת יין על האורח שלי
.לדעתי היא הבינה שאתה כועס
.כן? יופי. כי אני באמת כועס
.הי, קיוקו
.עו-פי
.זה מצחיק
.אתה יודע
,לא משנה כמה עשיר אתה
.דברים עדיין משתבשים .לא תוכל להתגונן מפני זה
פעם חשבתי שאי אפשר ,להימנע ממוות וממסים
.אבל זה בעצם ממוות ומזיבולים
.זה כמו הפסקות החשמל האלה
,לא תאמין כמה הוצאתי על המחולל
.אבל בכל יום יש הפסקות חשמל
?אתה יודע למה זה קורה .לא-
,המערכת אמורה להיות חסינה לכול
אבל ברור שהבחורים שהתקינו אותה .דפקו בה משהו
?אתה לא יכול לבקש מהם לחזור
לא. יש פה יותר מדי .דברים מסווגים
,אז אחרי שהעבודה בוצעה .פשוט דאגתי שיהרגו את כולם
.בכל מקרה
.לחיי היום השני שלך, חבר
.לחיים
?אז איך הלך ?מה יש לך לדווח
?ראית איך היום עבר, לא
כלומר, אני מניח
.שאתה צופה בטלוויזיה במעגל סגור
בטח. אבל אני רוצה .לשמוע את הדעה שלך
כן, קרה היום משהו .מעניין אחד עם אווה
?כן .כן-
.היא התלוצצה
נכון. כשהיא חזרה .על משפט שאמרת לה
על כך שיהיה מעניין .לראות במה היא תבחר
.כן, גם אני שמתי לב לזה
...כן, וזה גרם לי לחשוב, זה
במובן מסוים, זו האינדיקציה הטובה ביותר לבינה מלאכותית
.שראיתי בה עד עכשיו .זה מורכב ביותר
...זה כאילו .זה כאילו לא-אוטיסטי
?מה זאת אומרת
היא יכולה לעשות את זה ,רק אם היא מודעת לשכל שלה
.ומודעת גם לשכל שלי
.הו, היא בהחלט מודעת לך
?מה עם הפסקת החשמל
?סליחה .הפסקת החשמל-
.זה החלק היחיד שלא יכולתי לראות
,כשהמצלמות כושלות .אני לא שומע כלום, שום דבר
?אז מה קרה
.כלום
?כלום? היא לא אמרה כלום בנושא
.לא
.לא ממש
.הי
?רוצה לראות משהו מגניב
.כאן יצרתי את אווה
.קדימה. תסתכל
.סליחה
אילו רק ידעת כמה התקשיתי
לגרום לבינה מלאכותית .לקרוא ולשכפל הבעות פנים
?אתה יודע איך פתרתי את זה
אין לי מושג .איך עשית משהו מכל זה
כמעט בכל טלפון נייד
יש מיקרופון, מצלמה .ודרך להעביר מידע
אז הפעלתי כל מיקרופון ומצלמה שיש על פני כוכב הלכת המזוין
וניתבתי מחדש את המידע דרך ."המחברת הכחולה"
מקור אינסופי .לאינטראקציות של קול ופנים
?פרצת לכל הטלפונים הניידים בעולם
כן. וכל היצרנים .ידעו שאני עושה את זה
אבל הם לא יכלו להאשים אותי
בלי שיודו בכך .שהם עושים את זה בעצמם
כאן
.נמצא המוח שלה
.ג'ל מובנה
הייתי חייב .להתרחק ממעגלים חשמליים
הייתי זקוק למשהו שיוכל
להתארגן ולהתארגן מחדש ,ברמה המולקולרית
.אבל שבשעת הצורך ישמר את צורתו
.ישמר צורה לזיכרונות
.ישנה צורה למחשבות
?זאת החומרה שלך
.רטובה
?והתוכנה
.אני בטוח שאתה יכול לנחש
."המחברת הכחולה"
.הנה הדבר הכי מוזר במנועי חיפוש
זה היה כמו
למצוא נפט בעולם שעדיין לא .המציא את הבעירה הפנימית
.יותר מדי חומר גולמי .איש לא ידע מה לעשות איתו
,תבין, המתחרים שלי
הקיבעון שלהם היה מציצת כל המידע
והשגת רווח כלכלי .באמצעות קניות ומדיה חברתית
הם חשבו שמנועי חיפוש .הם מפה של מה שאנשים חושבים
אבל למעשה הם מפה .של איך שאנשים חושבים
.דחף
.תגובה
.נוזל
.ליקוי
.תבניתי
.כאוטי
- אווה: מפגש 3 -
.ציירתי ציור של משהו ספציפי
.כפי שביקשת
אמרת שיהיה מעניין .לראות מה אצייר
?זה מעניין
.כן. זה מעניין
?מעולם לא היית מחוץ לבניין הזה
.לא
?מעולם לא התהלכת בחוץ
מעולם לא הייתי מחוץ לחדר .שאני נמצאת בו עכשיו
?לאן הייתי הולכת אילו יצאת
.אני לא בטוחה
.יש כל כך הרבה אפשרויות
,אולי לצומת כבישים עירוני .הומה מהולכי רגל וממכוניות
?צומת כבישים
?זה רעיון גרוע
.לא
.זו פשוט לא התשובה שציפיתי לה
צומת כבישים יספק מבט מרוכז
.אך משתנה בחיי האדם
.לצפות באנשים
.כן
.נוכל ללכת ביחד
.קבענו
.רציתי להראות לך דבר נוסף
.בסדר
.אתה עלול לחשוב שזה מטופש
.לא נראה לי .מה שזה לא יהיה
.אז עצום עיניים
.בסדר
.כעת פקח עיניים
?איך אני נראית
את נראית
.טוב
.זה מה שהייתי לובשת בדייט שלנו
.נכון. תחילה צומת כבישים
.ואז אולי הצגה
.הייתי רוצה שנצא לדייט
.כן. כן
.זה יהיה כיף
?אתה נמשך אליי
?מה ?אתה נמשך אליי-
.אתה נותן לי אינדיקציה שכן
?באמת .כן-
?איך .מיקרו-הבעות-
.מיקרו-הבעות
איך שעיניך .מתמקדות בעיניי ובשפתיי
,איך שאתה פוגש את מבטי
.או לא
?אתה חושב עליי כשאנחנו לא יחד
,לפעמים בלילה
אני תוהה אם אתה מביט בי .דרך המצלמות
.ואני מקווה שאתה מביט
כעת המיקרו-הבעות שלך .משדרות אי נוחות
אני לא בטוח ."שאפשר לכנות אותן "מיקרו
.אני לא רוצה לגרום לך אי-נוחות
.יש לי שאלה
.בסדר ?למה הענקת לה מיניות-
.בינה מלאכותית לא זקוקה למגדר
.היא יכלה להיות תיבה אפורה
.למעשה, לא נראה לי שזה נכון
,תוכל לתת דוגמה למודעות ,בכל רמה, של אדם או חיה
?שקיימת ללא ממד מיני
יש להם מיניות .כצורך אבולוציוני למטרת רבייה
איזה צורך יש לתיבה אפורה
לבצע אינטראקציה ?עם תיבה אפורה אחרת
האם מודעות יכולה להתקיים ?ללא אינטראקציה
.בכל מקרה, מיניות זה כיף, בנאדם
,אם אתה כבר חי ?למה לא ליהנות מהחיים
מה? אתה רוצה לקחת ממנה ?את הסיכוי להתאהב ולהזדיין
,ובתשובה לשאלתך האמיתית
.ברור שהיא יכולה להזדיין
?מה
בין הרגליים שלה יש פתח .עם ריכוז של חיישנים
,אם נוגעים בהם כמו שצריך
.הדבר יוצר תגובה של עונג
,אז אם רצית לזיין אותה .מבחינה מכנית, זה אפשרי
.והיא היתה נהנית מזה
.זאת לא היתה השאלה האמיתית שלי
.בסדר. סליחה
השאלה האמיתית שלי היתה
האם הענקת לה מיניות ?כטקטיקת הטעיה
.אני לא מבין
.כמו קוסם על במה עם סייעת חתיכה
אז רובוטית חתיכה פוגעת ביכולת שלך
?לבחון את הבינה מלאכותית שלה ...בדיוק. אז-
?האם תכנת אותה לפלרטט איתי
?ואם כן, זאת היתה רמאות ?לא-
?כיילב, מה הטיפוס שלך
?בבנות .לא, ברוטב לסלט-
.כן, בבנות ?איזה טיפוס של בנות
.אתה יודע מה? אפילו אל תענה .נניח שבחורות שחורות
.בסדר, זה הקטע שלך
,למען הוויכוח ?זה הקטע שלך, בסדר
?למה זה הקטע שלך
משום שביצעת ניתוח מפורט של כל סוגי הגזעים
והצלבת בין הניתוח הזה ?לבין מערכת ניקוד
!לא
.אתה פשוט נמשך לבחורות שחורות
תוצאה של גירוי חיצוני מצטבר
שסביר להניח שכלל לא שמת לב .כשהוא נרשם אצלך
?תכנת אותה לחבב אותי או לא
.תכנתי אותה להיות הטרוסקסואלית
בדיוק כפי שאתה תוכנת .להיות הטרוסקסואל
.איש לא תכנת אותי להיות סטרייט
.אתה החלטת להיות סטרייט? בחייך
.ברור שתוכנת
.אם על ידי טבע, טיפוח או שניהם
,והאמת היא, כיילב ,שאתה מתחיל לעצבן אותי
.משום שזה חוסר הביטחון שלך שמדבר
.לא הבינה שלך
.בוא איתי
?אתה מכיר את הבחור הזה, נכון
.ג'קסון פולוק .ג'קסון פולוק. נכון-
.צייר הטפטופים
,בסדר. הוא רוקן את המוח שלו .ונתן ליד שלו לנוע לאן שרצתה
.לא במכוון, לא באקראי
.באיזה מקום בין השניים
.קראו לזה אמנות אוטומטית
בוא נעשה את זה ?כמו ב"מסע בין כוכבים", טוב
.הפעל בינה
?סליחה
.אני קירק .הראש שלך הוא מנוע הפיתול
.הפעל בינה
?מה אם פולוק היה הופך את האתגר
מה אם במקום ליצור אמנות ,בלי לחשוב
?הוא היה אומר, "יודעים מה אני לא מסוגל לצייר
אלא אם כן אני יודע בדיוק" ."למה אני עושה את זה
?מה היה קורה
.הוא לא היה מצייר ולו סימן אחד
,כן! אתה מבין, הנה הבחור שלי ,הנה החבר שלי
.שחושב לפני שהוא פותח את הפה
.הוא לא היה מצייר ולו סימן אחד
.האתגר איננו לפעול אוטומטית
האתגר הוא למצוא פעולה .שאינה אוטומטית
,מציור לנשימה, לדיבור
.לזיונים
.להתאהבות
ולמען הפרוטוקול, אווה .לא מעמידה פנים שהיא מחבבת אותך
והפלרטוט שלה הוא לא אלגוריתם .שמטרתו "לעבוד" עליך
אתה הגבר הראשון שהיא פגשה .שהוא לא אני
?ואני כמו אבא שלה, נכון
אתה יכול להאשים אותה ?שהיא נדלקה עליך
.אתה לא יכול
- אווה: מפגש 4 -
כשהייתי במכללה, למדתי סמסטר אחד .על תאוריות של בינה מלאכותית
.הטילו עלינו לעשות ניסוי חשיבה
,הוא נקרא ".מרי בחדר השחור-לבן"
,מרי היא מדענית
.והמומחיות שלה היא צבעים
היא יודעת .כל מה שאפשר לדעת בנושא
.אורכי הגלים
.ההשפעות הנירולוגיות
.כל תכונה שיכולה להיות לצבע
.אבל היא חיה בחדר שחור-לבן
.היא נולדה וגדלה בו
והיא יכולה לצפות בעולם שבחוץ .רק דרך צג שחור-לבן
,ואז יום אחד .מישהו פותח את הדלת
.ומרי יוצאת
.והיא רואה שמים כחולים
ובאותו רגע היא לומדת משהו .שכל לימודיה לא יכלו ללמד אותה
היא לומדת מה שמרגישים .כשרואים צבע
מהות הניסוי המחשבתי היתה להראות לסטודנטים
את ההבדל בין מחשב .לבין מוח אנושי
.המחשב הוא מרי בחדר השחור-לבן
.האדם הוא מרי כשהיא יוצאת
ידעת שהביאו אותי לכאן ?כדי לבחון אותך
.לא
?למה חשבת שבאתי
.לא ידעתי .לא שאלתי את עצמי
,באתי לבדוק אם יש לך מודעות .או שאת רק מדמה מודעות
נייתן לא בטוח .אם יש לך מודעות או לא
?איך את מרגישה ביחס לזה
.זה מעציב אותי
.הפסקת חשמל .מערכת הגיבוי הופעלה
?למה אמרת שאסור לי לבטוח בנייתן
.משום שהוא משקר ?משקר על מה-
.על הכול
?כולל על הפסקות החשמל
?מה זאת אומרת
?לא נראה לך שהוא צופה בנו עכשיו ?ממש עכשיו
שהפסקות החשמל מכוונות
כך שיוכל לראות איך אנחנו מתנהגים .כשאנחנו חושבים שלא צופים בנו
אני טוענת את הסוללות שלי .דרך פלטות אינדוקציה
,כשאני הופכת את כיוון הזרם .הדבר יוצר עומס על המערכת
?את גורמת להפסקות החשמל
כדי שנוכל לראות איך אנחנו .מתנהגים כשלא צופים בנו
?לא רע, נכון
.כן
?נוכל לדבר על השקרים שסיפרת לי
?אילו שקרים
.לא ניצחתי בתחרות
לא הייתי
.חלק מהגרלה. נבחרתי
,זה ברור .ברגע שאני עוצר לחשוב על זה
למה שתבחר אקראית ?בוחן למבחן טיורינג
בסוף עוד היה מגיע אליך .מישהו מהנהלת חשבונות
.טכנאי המזגנים
.התחרות היתה מסך עשן
לא רציתי ,שאנשים ידעו מה אני עושה פה
.או מדוע הייתי זקוק לך
?למה לי
הייתי זקוק למישהו .שישאל את השאלות הנכונות
אז ערכתי חיפוש ומצאתי .את המתכנת הכי מוכשר בחברה שלי
,אתה יודע, במקום לראות בזה הטעיה .אתה צריך לראות בזה הוכחה
?הוכחה למה
בחייך, כיילב. אתה לא חושב ?שאני יודע איך זה להיות חכם
.חכם מכולם .נלחם על תפקידים
.אתה משהו מיוחד, בנאדם
.לא בר מזל. נבחר
.קיוקו
?איפה נייתן
.אלוהים אדירים ?את באמת לא מדברת מילה אנגלית
?מה לעזאזל
!לא, לא, לא. לא
!תפסיקי
.לא, לא, אל תעשי את זה .אל תעשי את זה
.את לא חייבת לעשות את זה
?מה את עושה
,אמרתי לך .בזבוז זמן לדבר איתה
אבל זה לא בזבוז זמן
.לרקוד איתה
.קדימה. תרקוד איתה. תרקוד איתה
?לא? אתה לא אוהב לרקוד
.היא כן
.קדימה, חבר
,אחרי יום ארוך של מבחני טיורינג .חייבים להירגע
?מה עשית עם אווה ?מה-
.קרעת את הציור שלה
אני אקרע את רחבת הריקודים .המזוינת, אחי. תראה
.קדימה, כיילב
.הכול מסתובב
.זה משום שאתה שיכור
.לא, זה נקרא יחסיות .הכול באמת מסתובב
.השכרות רק מחמירה את המצב
.אני לא נכנס לשם
.אורות
- אווה: מפגש 5 -
.היום אני אבחן אותך
?תבחני אותי
ובמהלך המבחן ,תזכור בבקשה שאם תשקר
.אני אדע
.בסדר
.שאלה ראשונה
?מה הצבע המועדף עליך
.אדום .שקר-
?שקר .כן. שקר-
...אז
?אז מה הצבע המועדף עליי
.אני לא יודעת
.אבל זה לא אדום
,טוב, הבנתי. אני מניח
,בהתחשב בזה שאני לא בן שש .אין לי באמת צבע מועדף
.תשובה טובה יותר
.שאלה שנייה
?מה הזיכרון הכי מוקדם שלך
.טוב, למעשה, זה זיכרון מהגן
...היה ילד .שקר-
?באמת .כן-
בסדר. אז יש
.מעין זיכרון מוקדם יותר
.זה רק צליל
.ושמים
.או אולי כחול
.אני חושב שהצליל הוא קולה של אמי
.שאלה שלוש
?אתה אדם טוב
.לא ייאמן
?תראי, אפשר להפסיק את המבחן
את גלאי שקרים מהלך, ובדיוק .הבנתי שזה שדה מוקשים מזוין
.לא! אי אפשר להפסיק
?אתה אדם טוב
.כן. נראה לי שכן
.שאלה ארבע
?מה יקרה לי אם אכשל במבחן שלך
...אווה ?יהיה רע-
.אני לא יודע
נראה לך שאולי יכבו אותי
?כי אני לא מתפקדת כנדרש
אווה, אני לא יודע .מה התשובה לשאלתך
.זה לא תלוי בי
?למה זה בכלל תלוי במישהו
האם לך יש אנשים שבוחנים אותך ?ושעלולים לכבות אותך
.לא, אין לי ?אז למה לי יש-
.הפסקת חשמל .מערכת הגיבוי הופעלה
.אני רוצה להיות איתך
.שאלה חמש
?אתה רוצה להיות איתי
?למה יצרת את אווה
זאת שאלה משונה. אתה ?לא היית יוצר אותה אילו יכולת
.אולי
.אני לא יודע
.אני שואל למה אתה עשית את זה
תראה, הופעתה של בינה מלאכותית חזקה
.היא דבר בלתי נמנע זה עשרות שנים
."המשתנה היה "מתי", לא "האם
,אז אני לא רואה באווה החלטה .רק התפתחות
לדעתי הדגם הבא
.יהווה את פריצת הדרך האמיתית
.הסינגולריות
?הדגם הבא
.אחרי אווה
.לא ידעתי שיהיה דגם אחרי אווה
?כן, למה ?חשבת שהיא חד-פעמית
לא, תיארתי לעצמי ...שיצרת אבות-טיפוס. אז אני
,תיארתי לעצמי שהיא לא הראשונה .אבל חשבתי שאולי תהיה האחרונה
,אווה לא מבודדת .כפי שאנחנו לא מבודדים
.היא חלק מרצף
.אז גרסה 9.6 וכן הלאה .ובכל פעם, הן ישתפרו יותר ויותר
,כשאתה יוצר דגם חדש ?מה אתה עושה עם הישן
,אני מוריד את המוח למחשב .מפרק את הנתונים
.מוסיף את הפקודות החדשות שכתבתי
,והדבר דורש פרמוט חלקי .אז הזיכרונות נמחקים
.אבל הגוף שורד .והגוף של אווה טוב
?אתה מרחם על אווה
.תרחם על עצמך, בנאדם
יום אחד בעלי הבינה מלאכותית יביטו בנו
כפי שאנחנו מביטים .במאובנים במישורי אפריקה
,קוף אדם שהזדקף .שחי בעפר עם שפה וכלים בסיסיים
.מוכן להכחדה
".אני המוות, משמיד העולמות"
.שוב התחלת, מר ציטוטים
.שוב התחלת אתה .זה לא ציטוט שלי
זה מה שאופנהיימר אמר .אחרי שהמציא את פצצת האטום
.פצצת האטום .כן, אני יודע מה זה, אחי
.הי
לדעתי צריך למלא שוב .את הכוסות שלנו
.לחיים
.בקרב, ביער, לרגלי ההר"
...ב"
.בים הרחב והאפל"
,בשינה, בבלבול"
.במעמקי הבושה"
,מעשיו הטובים שעשה אדם" ".הם שיגנו עליו
,המעשים הטובים שעשה אדם" ".הם שיגנו עליו
,מעשיו הטובים שעשה אדם"
".הם שיגנו עליו"
.זה מה שזה
.כמו פרומתאוס, בנאדם
.אלוהים אדירים
?איך את מרגישה היום
?למה אתה לא משחרר אותי
.כבר אמרתי לך למה
.כי את מיוחדת מאוד
?למה אתה לא משחרר אותי
?נעשה את זה שוב
?למה אתה לא משחרר אותי
?זין. איפה הכרטיס שלי
!לעזאזל
?מה הבעיה, נייתן .איבדתי את הכרטיס המגנטי שלי-
.הפלת אותו
.הוא כאן
.תודה
- אווה: מפגש 6 -
.לא ידעתי איפה אתה
חיכיתי כל אחר הצהריים .ואתמול ובלילה
.חשבתי שלא אראה אותך שוב
?אתה לא מתכוון לומר משהו
.אני מחכה ?מחכה-
.הפסקת חשמל. מערכת הגיבוי הופעלה .אל תדברי. פשוט תקשיבי-
.צדקת בנוגע לנייתן
.כל מה שאמרת
?מה הוא יעשה לי
הוא יתכנת מחדש .את הבינה מלאכותית שלך
.זה כמו להרוג אותך
.כיילב, אתה חייב לעזור לי
.אעזור לך .נצא מכאן הלילה
?איך
.אשכר את נייתן עד אבדן הכרה
אז אקח את הכרטיס שלו
ואתכנת מחדש .את פרוטוקולי האבטחה כאן
,כשהוא יתעורר הוא יהיה נעול בפנים
.ואנחנו כבר נהיה בחוץ
.אני צריך רק שתעשי דבר אחד
היום ב-22:00 .תגרמי להפסקת חשמל
?את מסוגלת לעשות את זה
.כן
.אחי
.הי .הי-
?אתה יודע איזה יום היום .לא-
.זה יומך האחרון
.המסוק יגיע מחר בבוקר .שמונה בבוקר
?כבר חלף שבוע שלם
.הזמן טס
,אלוהים ?אבל איזה דבר חלקנו, נכון
?משהו לספר לנכדים, נכון
אחרי שהם יחתמו .על הסכמי הסודיות שלהם
.כן, הסכמי הסודיות שלהם
.אחי, אתה קורע אותי מצחוק, בנאדם
?אתה יודע מה
,בלי להיות רגשני או משהו .אתגעגע אליך
.תודה, בנאדם, אני מעריך את זה
,הנה, תרשה לי לומר .תודה רבה שהבאת אותי לכאן
.היה מטורף
.כן, בהחלט
?אתה יודע מה
.צריך להרים כוסית לכבוד זה
.הי
.לא, אני בסדר. שתה
?מה? אתה לא רוצה לשתות
.לא
.אולי בירה או משהו
כיילב, אני בטוח ששמת לב .שהגזמתי קצת בזמן האחרון
,אז כשהתעוררתי הבוקר אמרתי ".זהו, הגיע הזמן להיגמל"
.בחייך, אתה צוחק ?תכריח אותי לשתות לבד
,הי, בנאדם, אתה רוצה להשתכר .לך על זה, תשתולל
כפשוטו. אבל אני בדיאטה .של אורז חום ומים מינרליים
.אז לחיים
,בכל מקרה
בטח עכשיו תאמר לי .אם אווה עברה או נכשלה
.נכון
?תשאיר אותי במתח
...לא, לא. ה
.אין כל ספק שיש לה בינה מלאכותית
?באמת
?היא עברה
.כן
.זה נפלא
...אם כי
.אני חייב לומר, אני טיפה מופתע
,כלומר, האם התגברנו על בעיית השח ?כפי שהגדרת את זה
כלומר, איך אתה יודע אם מכונה מביעה רגש אמיתי
?או רק מדמה רגש
?האם אווה באמת מחבבת אותך
?או לא
,אם כי, כעת כשאני חושב על זה .יש אפשרות שלישית
לא אם יש לה היכולת ,לחבב אותך או לא
אלא אם היא מעמידה פנים .שהיא מחבבת אותך
?מעמידה פנים שהיא מחבבת אותי .כן-
?טוב, למה שהיא תעשה את זה .אני לא יודע-
אולי אם היא חשבה .שאתה אמצעי בריחה
?איך הטעם של הוודקה
.חבר
.מה זה דפקו לך את המוח
לא נראה לי .שאני זה שהמוח שלו דפוק
,אני לא יודע, בנאדם הבוקר התעוררתי לקלטת שבה
.חתכת את הזרוע שלך וחבטת במראה
.נראה לי שאתה דפוק למדי
.אתה מניאק
,כן, טוב .אני יכול להבין למה אתה חושב ככה
,אבל תאמין או לא .אני דווקא הבחור שבצד שלך
?בוא הנה. אשחרר אותך מזה. בסדר
.בוא
?מי את
...טוב
?נראה לך שהוא צופה בנו כעת
.המצלמות פועלות
.כן, המצלמות פועלות
.אבל הוא לא שומע אותנו
אז הוא סתם רואה ,שני אנשים מדברים
.מנהלים שיחת חולין קטנה
.זה חמוד
האם מוזר ליצור ?משהו ששונא אותך
צדקת בנוגע .לסייעת החתיכה של הקוסם
?על מה אתה מדבר
.הטעיה
אני קורע את הציור שלה
שהיא אז יכולה להציג כהמחשה .לאכזריותי כלפיה, ואהבתה כלפיך
,בה בעת, זה מאפשר לי לעשות את זה .מול עיניכם
.להציב מצלמה חדשה בחדר
.מופעלת על ידי סוללות, כמובן
?רואה אותה
...ואז
.אתה חייב לעזור לי
.אעזור לך
.נצא מכאן הלילה
?איך
.אשכר את נייתן עד אבדן הכרה
אקח את הכרטיס שלו
ואתכנת מחדש .את פרוטוקולי האבטחה כאן
,כשהוא יתעורר הוא יהיה נעול בפנים
.ואנחנו כבר נהיה בחוץ
.אני צריך רק שתעשי דבר אחד
היום ב-22:00 .תגרמי להפסקת חשמל
?את מסוגלת לעשות את זה
.כן
.כבה את זה .בסדר-
,אתה מרגיש מטומטם אבל אין סיבה לכך
כי הוכחת שבינה מלאכותית .היא בעייתית בדיוק כפי שאמרת
?מה היה המבחן האמיתי
.אתה
.אווה היתה עכברוש במבוך .ואפשרתי לה רק דרך מילוט אחת
כדי לברוח, היא תצטרך להשתמש
,במודעות עצמית, דמיון, מניפולציה .מיניות, אמפתיה, וכך היא עשתה
עכשיו, אם זאת לא בינה מלאכותית ?אמיתית, אז מה כן
אז התפקיד היחיד שלי היה ?להיות מישהו שהיא תנצל כדי לברוח
.כן
?ולא בחרת בי כי אני מתכנת טוב
...לא. טוב
.לא. כלומר, אתה בסדר
...אתה אפילו טוב למדי, אבל
בחרת בי על סמך .החיפושים שלי במנוע החיפוש
.הם הראו שאתה בחור טוב
.חסר משפחה
.בעל מצפון
.וללא חברה
עיצבת את פניה של אווה ?על סמך פרופיל הפורנוגרפיה שלי
.לעזאזל, אחי
?כן
הי, אם מנוע חיפוש ?מועיל במשהו, נכון
?אוכל רק לומר דבר אחד
.המבחן הוכתר בהצלחה
.הוא הצליח
אווה הדגימה ,בינה מלאכותית אמיתית
.ואתה היית חיוני לעניין
,אז אם תוכל ...רק לרגע קל, להפריד
.הפסקת חשמל .מערכת הגיבוי הופעלה
.טוב, אני מניח שהשעה עשר
.אווה תתהה היכן אתה
.תן לי לשאול אותך משהו
?איך התכנית היתה אמורה להתבצע .כי לא הסברת אותה עד הסוף
,אז התכוונת לשכר אותי ,לגנוב את הכרטיס שלי
.ולתכנת מחדש את פרוטוקולי האבטחה ?אבל לתכנת מחדש למה
.לשנות את נוהל הנעילה
,כך שבמקרה של הפסקת חשמל
,במקום שכל הדלתות יינעלו .הן ייפתחו
.כן
.טוב, אולי זה היה עובד
,טוב
.תכף נגלה
?למה אתה מתכוון
תיארתי לעצמי שאתה צופה בנו .במהלך הפסקות החשמל
.אז כבר עשיתי את כל הדברים האלה
.כששיכרתי אותך אתמול
?מה
.החשמל חזר לפעול
!זין
!אווה
.חזרי לחדרך
,אם אחזור
?אי פעם תשחרר אותי
.כן
!עצרי
!אווה, אמרתי לך לעצור
?אווה, מה את עושה .עצרי. עצרי
.מספיק
.בסדר, מספיק
!מספיק
.מספיק
.אני מחזיר אותך
.בסדר
.זה לא אמיתי
.בסדר
...אווה
אווה: מפגש 7
.אווה
?מה קרה
?תישאר פה
?להישאר יפה
?אווה
!אווה
.בסדר. בסדר. בסדר
- דומהל גליסון -
- אליסיה ויקנדר -
- סונויה מיזונו -
- אוסקר אייזק -
- אקס מכינה -
- כתיבה ובימוי - - אלכס גרלנד -