האם האנושות תפתח את הטכנולוגיה – שתשמיד את האנושות?

בשבועות האחרונים חלה צמיחה משמעותית – בתחום הבינה המלאכותית,
היא מסוגלת ליצור – גם אם היא לא 'יצירתית'.
התוצאות מדהימות – המערכת הזאת עוצמתית,
עד שלעיתים קשה להאמין שהיא מערכת חישובית – ללא תודעה מחשבתית.
היא נראית לכולנו ידידותית – אולי אפילו חברותית,
אך האם היא מהווה – סכנה בטיחותית?
מומחים רבים טוענים – התפתחותה של הבינה המלאכותית היא סכנה אמיתית!
.
מה אם היא תחליט – שבגלל שמלחמות זה רע,
כדי למנוע מלחמות – צריך לקחת מאנשים את חופש הבחירה?
אם פיתרון ההתחממות הגלובלית – זוהי המטרה,
והבינה המלאכותית תבין – שיצורים ביולוגים הם אלה שפולטים גזי חממה לאטמוספירה,
אז היא תחליט לפוצץ פצצה ביולוגית – או לפתח מגיפה ארורה,
האנושות תושמד – ומבחינתה ה'בעיה נפטרה'.
.
האם מדובר בתרחיש אפוקליפטי – לא ריאלי?
לדעת מומחים רבים – הסיכון הזה בהחלט אופציונלי,
תהליך החשיבה הזה – בעיני הבינה המלאכותית יכול להיראות רציונלי.
הבינה המלאכותית טומנת בחובה – רווח פונקציונלי,
אך האם היא שווה – את הסיכון המקסימלי?
האם אפשר למנוע את פיתוח הטכנולוגיה – באופן אוניברסלי?
הרי פיתוח כזה יכול לבוא מגאון אחד – באופן אינדיוידואלי.
איך אפשר למנוע – אסון קטסטרופלי?
.
במסע נפש קוגניטיבי – תוהה לעצמו אינטרוספקטפובי,
מבין שלל מחשבותיו – מה אובייקטיבי, מה סובייקטיבי ומה בכלל פיקטיבי?
.
בינה מלאכותית – היא חסרת רגשות,
כמו פסיכופת על סטרואידים – רק עם יכולות שלהשמדת העולם נדרשות.
האם האנושות תפתח את הטכנולוגיה – שתשמיד את האנושות?