זאת שאלה מורכבת. אבל לגבי הדוגמא הראשונה אני חולקת עליך. מטרה לא מקדשת אמצעים. לא הורגים ילד או כל אחד בשביל להציל מישהו או אנשים אחרים. אם זאת הברירה - עדיף שכולם ימותו "נקיים" מאשר יחיו כי רצחו משהו. לגבי הדוגמא השניה - רופא מקבל את ההסכמה של המטופל עבור כל ניתוח. מטופל שמעדיף להישאר אם איבר פגוע, רופא לא יכרות אותו בכח. ולעצם השאלה - אני מגדירה לעצמי מי מסוכן וצריך להתרחק ממנו ולא מי רע, שזו שאלה פילוסופית ולא פרקטית. אני לא קוראת מחשבות ואין לי מספיק נתונים כדי להבין מי מתנהג בצורה מסויימת כי הכוונות שלו הן להרע. אבל מישהו שהפעולות שלו עלולות לפגוע בי - לא משנה מה הן סיבותיו, הוא מסוכן עבורי ואני אתרחק. אולי מה שמעניין אותך זה הפילוסופיה של הדברים...

הטוב המירבי... באמת שאלה מורכבת. כי מצד אחד הפעולה הטובה תהיה מה שטוב/הישרדותי למספר רב ביותר של אנשים. ומצד שני מי הוא זה שקובע מה נכון? נערך סקר מאד מקיף ומעניין שהראה כמה דברים מעניינים. תראו את הקישור http://moralmachine.mit.edu/

אני מאוד משדהה עם התשובה שכתב ג'ק (תסתכלו למעלה).האינטואיציה שלנו יודעת להבחין היטב בין טוב לרע, זה חלק מהחוייה שלנו כבני אדם, ולא צריך להסתבך בזה.

הפתרון לשאלת האדם הטוב - הוא כמובן לא הצדק המרבי, אבל גם הצדק של קנט והמניע הפנימי, הוא לא מצפן טוב במיוחד. ועלול להביא אותנו לתפיסה דיכוטומית פשטנית של טוב מול רע, גן עדן מול גהנום, טוב מול רע. השאיפה צריכה להיות תפיסה אישית מורכבת המכילה את הטוב עם הרע. מתוך המורכבות ולא הפשטנות יכולה לצמוח כפלורליסטית ופתוחה אם כבר ״מחקר המכונית האוטונומית״ אני רוצה להפנות למחקר אחר שבוצע ב- DARPA (2012) שעסק בשאלה כיצד היום צריכות מערכות אוטונומיות להתנהג. המסכנה הייתה- שמערכות אוטונומיות (״רואה יורה״, מזלטים, טילים מתקדמים) חייבים התערבות מפעיל לבחירת המטרה והשמדתה. או במילים אחרות - 1. ההחלטה המוסרית גם במערכות אוטונומיות חייבת להיות של יצור אנושי. 2. ״המכונית האוטונומית״ בדוגמה שצרפתה, אסור שתבחר ב ״החלטה מוסרית״ , היא יכולה להחליט להתחמק ממכשול, אבל אסור לה לחשב נזק מרבי. * נניח כי מכוניות אוטונומיות יהיו 100% אוטונומיות ולא ניתן ״לבקש״ התערבות מפעיל. בחזרה לבני אדם: 1. אני מאמין שעלי להימנע ממצבים אפורים, ומצבים של העדפה מוסרית. ולא לקבוע דינו של אחר או לשפוט אחר על פי אמות מוסר. מאחר ומוסר הוא בהכרח סובייקטיבי אישי תלוי סיטואציה ותרבות. 2. ישנו צדק פנימי סובייקטיבי אישי, בכל אחד מאיתנו. הוא לא מושלם אבל זה הכי טוב שיש עבורי, לשימושי האישי בלבד, למעשה בחירה מוסרית היא בחירה אישית לשאת במחיר הצדק הפנימי שלי ושלי בלבד.

ג'ק - איך אתה יודע מה המניעים? למפרע זו לא חכמה. הלוואי שהייתה לי אינטואיציה, אני ממש חמורה בכל מה שקשור לבני אדם(אולי גם בעוד נושאים). רק במחשבים אני מבינה חח מאנשים אני נזהרת ונמנעת וצמצמתי את כמות הפגיעות שלי בצורה ניכרת.

טוב, אני לא מאלה שיודעים לחוש בני אדם.. מרובם אני פוחדת אז לא שוהה איתם הרבה מדי זמן.. אני שמחה בשבילך שיש לך את הכישרון הזה. שימושי מאד.