תמיד לשאול
תוכנית #58 – רובוטים אלטרואיסטים, והסינגולריות שבה הם ישלטו בנו
ספק סביר – תוכנית #58 – הוקלטה ב-06/05/2011
משתתפים: ליאורה לוי (Doctor), ברק ניצן (Doctor), ערן אבירם (Doctor) וירון אסא (And, doctor)
האזנה באתר:
הורדה למחשב: לחצו כאן.
ומזל טוב לאביב!
פירוט התוכנית:
00:00 – הקדמה
01:20 – רובוטים אלטרואיסטים
1. כלל המילטון.
3. תמצות המחקר וראיון וידאו עם החוקר הראשי (יח"צ).
4. כתבת סיקור נוספת, וכתבת וידאו נוספת הסוקרת את הניסוי (משום מה יש הרבה כתבות וידאו).
21:00 – הסינגולריות (פם פם פם)
1. על הסינגולריות מויקיפדיה, והמאמר שטבע את המונח (קריאה מורכבת)
2. תיאור מקובל למדי של שלושת האסכולות המרכזיות בתנועת הסינגולריות.
3. ספקנות סינגולרית בגישת ה-What the shit dude שאנחנו כ"כ אוהבים (ומראי מקום למגוון מקורות מידע איכותיים).
4. מבט ספקני חובבני על הסינגולריות: כאן, כאן, כאן, And doctor.
5. ניתוח של תנועת הסינגולריות ב-Rationally Speaking, וכאן.
6. ריי קורצוויל – גבר שבגברים, אבל לא משתלם להמר על קורצוויל כעתידן.
56:05 – איפה טעינו
58:40 – ספק סביר
1. תועדה התנהגות הומוסקסואלית ב-1,500 זנים.
2. כאשר זוג ברבורים שחורים אוסטרלים מגדלים צאצאים, אחוז ההצלחה לגידול הוא 80% כשהזוג הוא שני זכרים, לעומת 30% בזוג הטרוסקסואלי.
3. לא נצפו מינים בהם יש קשר הומוסקסואלי לכל החיים.
1. אכן כן, They do the nasty in the pasty.
2. אכן כן, והרי הסטטיסטיקה.
3. על אף מה שאמרנו בתוכנית, על אף שמונוגומיה נדירה יחסית (במיוחד ביונקים), נצפו לא מעט יחסית מונוגמים הומוסקסואליים. (כאן, כאן).
ב-23 למאי – ספקנים בפאב בתל-אביב- "מדעי המשפט". בואו בהמוניכם.
להורדות אוטומטיות של פרקים חדשים – ביצוע מנוי לספק סביר
-
-
בהמשך לשאלה של ברק: אני לא מבין זה בשביל מה הם טרחו לבנות רובוטים מציאותיים שיעשו את הסימולציה. הרי הרבה יותר קל לבצע גירסה ממוחשבת לגמרי של הניסוי/סימולציה ואז להיות מסוגל לעשות הרבה יותר ניסויים, הרבה יותר מדויקים, הרבה יותר מהר ובזול וכך לבחון סט גדול יותר של פרמטרים.
זה לא שביצוע הניסוי במציאות מעניק איזה שהוא יתרון לתוצאות המספריות שיוצאים ממנו. אם ממילא מדובר על משחק שבו מחפשים דיסקים במבוך אז לא לומדים על הביולוגיה יותר ככה מאשר ע"י משחק שכולו מין פקמן ממוחשב, אין יתרון אמיתי בממש להזיז חפצים במרחב.
-
יש יתרון מסויים בשימוש ברובוטיים פיזיים במחקרים של אלגוריתמים אבולוציניים, במיוחד עם הדינמיקה בין השחקנים חשובה (טורף-טרף ,כדורגל). במקרה הזה היתרון הוא חלש לדעתי, אבל צריך להבין שיש אסכולות בתחום ופלוריאנו (מוביל קבוצת המחקר) תמיד מפרסם תוצאות אחרי ניסוי מעבדתי. הוא עושה גם סימלציות אבל משתדל לפרסם תוצאות על רובוטים פיזיים.
חוקרים אחרים לא מתעסקים אף פעם עם חומרה ומסתפקים בהדגמת העקרון אין-סיליקו.-
תודה שלומי.
יש לי תחושה שהסיבה שעושים את זה היא כדי לתת מראית עין של ניסוי אמיתי, כזה עם מעבדה ודברים שאשכרה זזים בשטח.
כנראה שזו איזה שהיא דעה קדומה לפיה מה שזז באמת "יותר קרוב לאורגינל" מאשר מה שלא עזב אי פעם את התחום הדיגיטאלי. במקרה הזה, היות וכל מערת הלמידה והאלגוריתמיקה כולל קידוד התכונות הגנטיות היה כולו אין-סיליקו (אהבתי מאוד את ההגדרה ואני אאמץ ברשותך) זה נשמע מופרך במיוחד.
-
-
-
רועי צזנה לא יודע שההתעסקות בסינגולריטי היא פסואדו-מדע:
http://www.hayadan.org.il/yanki-margalit-at-mit-1705116/ -
-
היה מעניין לשמוע את הסקירה שלכם בנושא הרובוטים וכלל המילטון. בתור מי שעושה תזה בנושא אלגוריתמים אבולציוניים אני מוכרח לציין שהצלחתם להעביר את הנושא טוב.
בויכוח בין ירון, ברק וערן אני מצדד בגישה של ירון/ערן.
ראשית, לערן הייתה אינטואיציה נכונה שהמחקרים בתחום נעשים קודם כל לטובת קידום הרובוטיקה ואחר כך בא ההקשר הביולוגי. במקרה דנן, כמו במקרים אחרים, המאמר הזה בפלוז-ביולוגי הוא ספין אוף של המחקר המקורי שפורסם ב-IEEE לפני שנתיים.
שנית, אני יותר ממסכים עם ירון שיש ערך למחקר שמשתמש במודל מופשט של המציאות על גבי מחשב או רובוט פיזי. ההגיון לפיו בודקים תרופות תקף גם כאן – ראשית במבחנה, אחר כך ביונק קטן וכן הלאה. המבחנה מאפשרת לבודד את התופעה ומקילה על התצפית. מה שחשוב במבחנה זה לסנן את מה שלא עובד ביתר קלות. באותה מידה, כלל במסגרת תורת האבולוציה שלא עובד על רובטים המתרבים על פי עקרונות אבולוציוניים לא יחזיק מים כנראה גם במציאות הביולוגית.
הנקודה היחידה שאני רואה בה עין בעין עם ברק היא שאם הכלל כן עובד עדיין צריך להתקדם הלאה ולבדוק עם אורגניזמנים לפני שרצים להסיק מסקנות מרחיקות לכת לגבי נכונות הכלל באבולוציה ביולוגית. אבל התקשורת כמו תמיד אצה על המציאה.מי ששרד עד לפה חשוד כמתעניין בנושא אז אני מוסיף קישור למאמר סקירה של אותם החוקרים בנושא דומה אך ממבט רחב יותר. המאמר סוקר מספר עבודות שהם עשו עם אלגוריתמים אבולוציוניים על רובוטים שמהן ניתן להקיש על תופעות מוכרות ונחקרות באבולוציה ביולוגית – דינמיקת טורף-טרף, שיתוף פעולה ואלטרואיזם:
http://www.plosbiology.org/article/info%3Adoi%2F10.1371%2Fjournal.pbio.1000292;jsessionid=68EAEA2BB53C385BD6D7A0A1C47860D6.ambra02
ובגרסת pdf:
http://www.plosbiology.org/article/fetchObjectAttachment.action;jsessionid=4DE43DE57F8119D7C2F3DB397D2C4B6F.ambra02?uri=info%3Adoi%2F10.1371%2Fjournal.pbio.1000292&representation=PDF -
עשיתם קצת בלגאן ביולוגי/פילוסופי/סמנטי בקטע של הרובוטים והאלטרואיזם (בעיקר ברק שכל הדברים האלה על "קפיצות רמות" היו לא כל-כך קוהורנטיים), אז אם אפשר לעשות קצת סדר.
קודם כל אני מסכים למה שנאמר בקשר לזה שהישמוש ברובוטים נראה קצת גימיקי ואפשר היה כנראה לעשות את אותו הדבר לפחות מבחינת ביסוס התאוריה הביולוגית גם בסימולצית תוכנה טהורה.
בקשר לאלטרואיזם. כן מדובר באלטרואיזם, במובן שבו מגדירים אותו בביולוגיה אבולוציונית. בביולוגיה אלטרואיזם זה פשוט הקרבה מהאינטרס העצמי למען אינטרס של פרט אחר. צריך להבהיר שההגדרה היא ככה ואז להתיחס למונח בלי כל ההתפלפלויות הסמנטיות, שהן בדיוק סוג הדבר שגורם לכל העניין להישמע מסובך יותר ממה שהוא.
בקשר להמילטון. די אמרתם במהלך הדיון שהתאוריה שלו טריוויאלית. התאוריה שלו (ברירת שארים) אולי נראית לכם טריוויאלית כי אתם כבר יודעים עליה, אבל היא לא היתה כל-כך טריוויאלית בשנות ה-60 כשהיא יצאה והביולוגים די התעלמו ממנה כי היא היתה מאוד מתמטית ורוב הביולוגים האבולוציונים (גם היום) לא מאוד אוהבים להתעסק במתמטיקה. לקח לתאורית ברירת השארים הרבה שנים להתקבל ולקבל הכרה בחשיבות שלה, ואחת הסיבות שהיא מקובלת היום היא שריצ'רד דוקינס קרא את המאמרים של המילטון וניצל חלק ניכר מכישרון הכתיבה שלו וכוח השכנוע שלו כדי לקדם את הרעיונות של המילטון בשנות ה-70.
התאוריה של ברירת שארים היא כאמור תאוריה מאוד מקובלת היום. היא מסבירה את חלק מהמקרים של אלטרואיזם בטבע, אבל לא את כולם.
בהחלט יש תועלת בשימוש בסימולציות אבולוציוניות, משום שבסימולציות אפשר לעשות לפעמים מעבר למה שאפשר בחישובים על הנייר. זה לא שלוקחים את המתמטיקה של המילטון ופשוט מחברים אותה לסימולציה אחד לאחד. זה די חסר טעם. מתמטיקה לא משקרת. ברור שאם מתאימים את כל התנאים בדיוק זה יעבוד. מה שכן אפשר לעשות זה לסדר בסביבה סינתטית setup של תנאים שלא ניתן לחשב מתוכם מה יקרה "על הנייר", אבל מניחים עדיין שיווצרו התנאים להופעה של אלטרואיזם בין שארי בשר (או שארי סיליקון במקרה הזה), ואז לראות את זה קורה. זו לא בדיוק הוכחה שזה מה שקורה בטבע, ובמדעי הטבע אין הוכחות בכל מקרה, אבל זו כן יכולה להיות ראיה חזקה להיתכנות ביולוגית, משום שמערכת התנהגות מורכבת (לא ביולוגית, אבל בשאיפה דומה לביולוגית) סיגלה את התכונה שהתאוריה חוזה.
טוב. עכשיו כשהוצאתי את זה מהמערכת בזמן שהכל עדיין טרי בראש אני יכול לחזור ולשמוע אתכם מתעללים בקורצוויל.
-
שלום רב,
הקשבתי לפני מספר ימים לפודקאסט שלכם בנושא הסינגולריות ומאוד לא אהבתי את הנימה המזלזלת שלכם כלפי הנושא, הרושם שקיבלתי לאורך כל התוכנית הוא שבמקום לבדוק את הדברים לעומק ובצורה רצינית פשוט זרקתם כל מיני קלישאות לאוויר וניסיתם להשמע "מגניבים" כאלה כדי להבדיל את עצמכם מקבוצת ה"חנונים" שכן מתעסקים בזה.
ריי קורצוויל רחוק מלהיות "מטורלל" כפי שהצגתם אותו והוא הוכיח את עצמו ואת יכולותיו דרך שלל פיתוחים והמצאות פורצות דרך (רבות מהן בתחום הבינה המלאכותית) שעליהן הוא רשם פטנטים וגם קיבל פרסים יוקרתיים.
בניגוד לדעתכם אני כן רואה הרבה מאוד היגיון בדברים שלו, להגיד שלעולם לא נצליח לבנות מחשבים חושבים זו בעיני ממש בדיחה והוכחה לקוצר הראייה של אנשים, זה מזכיר לי אנשים שטענו בתוקף לפני 150 שנה כי מכונות כבדות מהאוויר לעולם לא יצליחו להמריא וזאת למרות שהם ראו סביבן ציפורים עפות.
המוח שלנו הוא ההוכחה האולטימטיבית לכך שחומר כאשר הוא בנוי בצורה נכונה מסוגל לחשוב, להיות יצירתי ואף בעל מודעות עצמית, בדיוק כפי שחומר כאשר הוא בנוי בצורה נכונה מסוגל לעוף (מטוס, או ציפור) או לאפשר הרצה של משחקים מדהימים בתלת מימד וחישובים מתמטיים ופיסיקליים מסובכים (מחשב). אם תהליך עיוור לחלוטין כמו תהליך האבולוציה הצליח ליצור את המוח המורכב שלנו (כמו גם מוחות של יצורים הרבה פחות מפותחים) אז אני לא רואה שום סיבה בעולם מדוע אנחנו בעזרת הידע שלנו והטכנולוגיה המתקדמת שלנו והיכולת היצירתית שלנו ומתוך כוונה תחילה לא נצליח ליצור משהו לפחות ברמה הזו וכנראה הרבה מעבר לכך.
לדעתי האישית צריך להיות ממש עיוור כדי לא לראות באיזה קצב הטכנולוגיה מתקדמת ובאיזו מהירות הולך ומצתמצם הפער בין היכולות של המוח האנושי ויכולתם של המחשבים, יותר ויותר משימות שנאמר רק לפני שנים ספורות כי רק בני אדם מסוגלים לבצע אותן מבוצעים כיום ע"י מחשבים ובהצלחה רבה, אמרו שמחשב לעולם לא יצליח להביס בני אדם במשחק שח מט, היום כל אחד יודע עד כמה הטענה הזו אווילית, רק לפני מספר שנים טענו כי מחשב לעולם לא יצליח להבדיל בין תמונה של כלב וחתול, היום ישנם מחשבים שלא רק יודעים להבדיל בין כלב וחתול אלא יודעים גם לזהות אובייקטים אחרים בתמונה ולהגיד שכאן יש חתול, כאן יש סוס, כאן ישנה מכונית, כאן יש פרח, זה ירון וכאן יושבת דורית. מחשבים יודעים לזהות כתב יד מרושל, להפוך אוטומטית דיבור בסרט לכתוביות טקסט, להפוך טקסט לקול אנושי, להטיס מטוסים לנהוג במכוניות…. ולאחרונה גם מחשב בינה מלאכותית בשם ווטסון שמביס את אלופי כל הזמנים במשחק ידע טלוויזיוני שנחשב להפגנת ידע אולטימטיבית ואינטיליגנציה מובהקת של בני אנוש.
תבינו, כל אלו הם דברים מדהימים שרק לפני מספר שנים נחשבו ממש למדע בדיוני והיום הם כבר חלק מחיי היום יום שלנו, ואני לא מקבל את הטענה שמועלית הרבה פעמים (בכל פעם שמחשב מצליח לבצע משימה נוספת שנחשבה ליכולת בלעדית של בני אנוש) שאומרת שזו בעצם "לא חוכמה" כי המחשב השתמש בעוצמת מיחשוב אדירה…. אפשר לחשוב שהמוח שלנו לא עושה בדיוק את זה! מאה מיליארד נויירונים, שכל אחד מהן מחובר לעוד עשרת אלפים אחרים ומתקשר איתם, והכל נעשה בצורה מקבילית, זו לא יכולת מיחשוב אדירה? האם מה שחשוב כאן זה איך הפעולה נעשתה, או מבחן התוצאה? כי במבחן התוצאה המחשבים מוכיחים שוב ושוב שהם יכולים להביס בני אדם גם בתחומים שנטען עד לא מזמן כי הם לעולם לא יצליחו בהם.
לגבי הטענה כי לא נוכל לבנות מחשבים חושבים משום שעדיין איננו יודעים להסביר כיצד נוצרת המודעות העצמית, לדעתי זה קישקוש. זה כמו להגיד שילד לעולם לא יוכל לבנות מטוס מנייר או מעץ בלזה ולהטיס אותו משום שהוא לא מבין את חוקי האווירודינמיקה, מה הקשר? כל הסימנים מראים כי מודעות עצמית היא פשוט תופעה שנוצרת מתוך הפרטים, בדומה לתבניות המרהיבות שנוצרות באוויר כאשר מאות אלפי ציפורים עפות יחד בצורה מתואמת כאשר כל אחת מהן פועלת לפי מספר חוקים פשוטים:
http://www.youtube.com/watch?v=MIzlcH2q6Vo
אנו רואים כי ככל שליצור יש מוח מפותח יותר כך הוא מסוגל להתנהגות מורכבת יותר, ניסויים בעזרת מראה מראים כי כנראה גם לקופים וליונקים מפותחים נוספים ישנה מודעות עצמית ברמה מסויימת, אך היא כנראה לא גבוהה כמו אצלנו, מודעות עצמית היא כמו אור שניתן לעמעמם או להעצים אותו, ככל שהמוח מורכב יותר ויותר נויירונים מחוברים יחד כך נוצרת מודעות עצמית גבוהה יותר, בדומה למטוס שמאיץ על המסלול ורק כשהוא מגיע למהירות מסויימת יוכל להמריא, כמו פצצה גרעינית שזקוקה למסה קריטית מינימלית של חומר ביקוע בכדי שיווצר פיצוץ, כך המוח זקוק כנראה למסה קריטית מסויימת של נויירונים המחוברים יחד כדי שיתעוררו בו תופעות כמו מודעות עצמית ויכולות נוספות.
דבר נוסף, מחקר המוח מראה שישנה חזרתיות רבה במוח על אותו מבנה בסיסי אשר משוכפל שוב ושוב מיליוני פעמים בתוך קליפת המוח, זה מה שיוצר את הרושם כי המורכבות שם היא בלתי ניתנת להבנה, אך המבנה של אותה יחידה בסיסית מובן לנו כיום היטב ("עמודה קורטיקלית") עד לרמת המולקולה הבודדת והדבר היחיד שמונע מאיתנו לשכפל אותה כמספר ההכפלות שקיימות במוח זו עוצמת המחשבים שבשלב זה עדיין מגבילה אותנו.
העוצמה העיקרית של המוח שלנו היא זיהויי תבניות (זיהויי פנים, זיהויי אובייקטים בסביבתנו, זיהויי תבניות: עננים –> גשם) ואנו רואים את היכולת הזו גם ברשתות נויירונים מאוד פשוטות שאנו יוצרים במחשב, גם הן מצליחות לזהות בצורה יפה תבניות שונות (אותיות, מספרים, פרצופים, אובייקטים) לאחר תהליך של לימוד, כלומר אנו רואים שכבר בבסיס אנו יודעים לחקות באמצעות מחשב יכולות בסיסיות של המוח, בסימולציות קצת יותר מורכבות כמו פרוייקט המוח האנושי" (חפשו באינטרנט "עידן שגב") שבהן נבנתה חתיכת מוח שלמה ומדוייקת מאד מבחינה ביולוגית החלו להופיע באופן ספונטני תבניות ותופעות שונות שנצפו לפני כן רק במוחות ביולוגיים אמיתיים במעבדות (לדוגמה גלי גמה) כלומר יש סיבה דיי טובה להאמין ולהיות אופטימיים שכאשר נחבר מספר מספיק של נויירונים יחד במקביל בסימולציה ממוחשבת (ועוצמת המחשבים אמורה לאפשר זאת בתוך כ 15 שנים) יווצרו באופן ספונטני תופעות מורכבות שנוצרות במוח שלנו כמו מודעות עצמית ויכולות אינטיליגנטיות נוספות.
בנוסף, כאשר תהיה לנו סימולציה פועלת של מוח אנושי על גבי מחשב יהיה אפשר לשפר אותה עוד ועוד בצורה מחזורית גם ללא הבנה מלאה של אופן פעולתה, חישבו לדוגמה על סימולציה של מנוע מכני בתוך מחשב, ניתן לשנות בכל פעם פרמטרים שונים ולראות כיצד הם משפיעים על ביצועי המנוע ועל ההספק שלו, ניתן להגדיל או להקטין את נפח הבוכנות, לשנות את היחס בין דלק לאוויר בתערובת, לנסות להזריק את התערובת בכל פעם ממקום אחר או בתזמון שונה ולראות איך כל שינויי משפיע על הביצועים, כך ניתן לשפר בהדרגה את הביצועים. באותו אופן ניתן יהיה להעביר את הסימולציה הממוחשבת של המוח סידרה של מבחנים (לדוגמה חידות הגיון, מבחני איי-קיו וכדומה) ולראות לאילו תוצאות הסימולציה מגיעה, ואז לבצע שינויים שונים, לדוגמה להכפיל או לשלש את מספר הנויירונים במודל, לשנות את החיבוריות בינהם וכדומה, ואז שוב להעביר את המחשב את אותה סידרה של מבחנים ולראות אם נוצר שיפור. שוב, כל זה זה ללא צורך בהבנה עמוקה אלא רק ע"י ניסוי וטעייה.
העיקרון עליו ריי קורצוויל מדבר הוא נכון והגיוני, אנו רואים זאת בכל שנה שעוברת, כל הזמן נוצרות טכנולוגיות חדשות שמאיצות עוד ועוד את קצב ההתקדמות הטכנולוגית, כאשר החל פרוייקט פיצוח הגנום האנושי סקפטים רבים טענו שהמשימה בלתי אפשרית, לפי קצב ההתקדמות נראה שיעברו מאות שנים עד שנצליח לבצע את זאת, עברו 7 שנים מתחילת הפרוייקט ופוענח רק 1% מהגנום, הסקפטים טענו "אמרנו לכם", אך בדיוק כפי שריי קורצוויל חזה ההתקדמות בתחומים אלו היא אקספוננציאלית, בכל שנה שעברה נוצרו כלים חדשים, ונוצרו טכנולוגיות חדשות שהכפילו את קצב ההתקדמות, ברגע שהגענו ל 1% נותרו רק 7 מחזורים עד לסיום, אחד אחוז הפך לאחר שנה ל 2%, לאחר מכן ל – 4%….. 8%….. 16%….. 32%…… וכצפוי לאחר 7 שנים הגענו ל 100% והפרוייקט הסתיים בדיוק בזמן!
ישנה התקדמות גדולה מאוד בתחום חקר המוח בשנים האחרונות, בכל שנה שעוברת אנו מבינים יותר ויותר על המוח שלנו והקצב רק הולך ומואץ באמצעות כלים חדשים וטכנולוגיות חדשות שמאיצות את ההתקדמות. לי אישית אין ספק שבתוך מספר עשורים בודדים נגיע להבנה מלאה של המוח האנושי ונוכל לבצע סימולציה מלאה שלו על גבי מחשב, אין במוח שלנו קסמים ואין מיסטיקות, המוח שלנו הוא רק חומר, חומר הפועל על פי חוקי הפיסיקה והכימיה הרגילים, ומבחינה זו הוא אינו שונה משום איבר או ריקמה אחרת בגופנו כמו יד, או שריר, לב או כליות, לכן אין שום סיבה בעולם שלא הצליח לחקות אותו ולסמלץ אותו בדיוק כפי שאנו מבצעים סימולציות של אלף ואחד תהליכים אחרים כימיקליים ופיסיקליים כמו פיצוצים גרעיניים או ראקציות כימיות שונות על גבי מחשב.
למרות שהקישור כבר ניתן קודם אנו ממליץ לכם בחום לעבור שוב על הדוגמאות הרבות שמופיעות בו ולהבין עד כמה אתם טועים בגישתכם המזלזלת:
http://www.tapuz.co.il/Forums2008/ViewMsg.aspx?ForumId=716&MessageId=152178724&r=1
הסינגולריות קרובה.
הייתי חייב להגיד את זה 🙂
-
-
שלום לאיש (מקווה שלא מפריע לך שאני פונה אליך בשם הפרטי),
התגובה שכתבת מכילה הרבה פרטי מידע מעניינים, חלקם חדשים לי ובאמת השכלתי, אבל לצערי היא לא מראה לנו שסינגולריות אינה תיאוריה פסאדו-מדעית. יותר מכך, היא לא מראה לנו שהסינגולריות קרבה (אם כי היא מראה שראוי היה לסקור את הנושא ברצינות יותר).
אתה עושה בילד-אפ ארוך של דוגמאות לפיתוחים טכנולוגיים המתקדמים אקספוננציאלית ואז כדי להסיק מהם את המסקנה אתה פשוט מבקש שנאמין שהסינוגלריות היא הכיוון הבלתי נמנע.
בא ננתח את זה רגע – נניח שכל הפיתוחים הטכנולוגיים בהיסטוריה מתקדמים או כאקספוננט עולה או כאקספוננט דועך. אני מסוגל עכשיו לכתוב רשומה עם 100 דוגמאות לפיתוחים שנתקעו בתקרה ונראים כמו אקספוננט דועך. מתוך הדוגמאות הללו אני אסיק שאנחנו הולכים לתקופה ארוכה של דעיכה במדע. הבה נקרא לתיאוריה זו "תיאוריית הפלאטו הארוך".
למה הפלאטו הארוך אינה תיאוריה מדעית? כי אני בחרתי כרצוני את הדוגמאות שיחזקו את המסקנה שלי וסיננתי את אילו שלא מתיישבות עם המסקנה הרצויה. גם לא העמדתי מבחן שיכול לאשש/להפריך את התיאוריה. מאותן הסיבות הסינגולריות אינה תחזית מדעית הנובעת מתוך הנתונים.אם נתייחס לעניין בקונטקסט רחב יותר, תיאוריה מדעית היא כזו הניתנת להפרכה בתצפית או ניסוי. תיאוריה מדעית איתנה היא כזו שהפיקה כבר בעבר תחזיות שהתממשו ועברה מספר מחזורים של בחינה-אישוש-תחזית-בחינה. האישוש יכול להתחלף בעדכון אם הניסוי/תצפית העלו אי דיוקים או בהפרכה מוחלטת.
תחזית הגורסת כי אנו צועדים לעבר סינגולריות אינה בהכרח שגויה אבל היא אמונה המבוססות על מדע ולא מדע המבוסס על מדע. מש"ל.
-
-
נהניתי וקיבלתי נקודות מבט חדשות כאשר דנתם באלטרואיזם ובסינגולרית. לשניהם אגב יש גם תרגום לעברית: זולתנות וייחודיות.
shlomix, יצא לך לעבור על רשימת הקישורים שנתתי בהודעה הקודמת? אולי זה יתן לך קצת מהתחושה שאני מקבל לגבי הכיוון שאליו הדברים זורמים.
נתחיל בזה שמעולם לא טענתי שהסינגולריות היא תודה מדעית או תאוריה מדעית מוכחת, ונדמה לי שגם ריי קורצווייל מעולם לא טען זאת. אני פשוט מפעיל הגיון ושיקול דעת ועושה היקשים שנראים לי סבירים לגבי דברים שאני קורא עליהם. כמובן שאני לוקח בחשבון את האפשרות שאני טועה, אבל אם הייתי צריך להמר על כך גם על סכום גדול מאוד של כסף הייתי מהמר ברמת ביטחון של 95% שעד שנת 2035 יהיו לנו כבר מחשבים מודעים שרמת האינטיליגנציה שלהם תעלה פי כמה על זו של בני אדם.
רק הערה אחת לפני שאני ממשיך, ריי קורצוויל רחוק מלהיות "הגורו" שלי, אני אדם עצמאי שמפעיל את הראש, ואני לא נותן לאנשים אחרים לחשוב בשבילי. אני פשוט מעריך אותו על התבונה שהיתה לו לראות דברים שכולנו ראינו מול העיניים ולחבר אותם יחד לתאוריה אחת שלמה שאף אחד קודם לא חשב עליה. אני חושב שבגדול האיש יודע על מה הוא מדבר (גם אם הוא טועה פה ושם לגבי תחזית כזו או אחרת) הטיעונים שלו נראים לי משכנעים והגיוניים והם מתאימים לי לא רע לדברים אחרים שאני קורא בנושאים האלו. אפשר להגיד שהוא מזכיר את מור שזיהה את "חוק מור" (שדרך אגב תקף עד היום) רק שהתאוריה של קורצוויל היא הרבה יותר רחבה ואינה מדברת רק על מספר הטרנזיסטורים על שבב מחשב אלא גם על דברים רבים מעבר לזה. הייתי אומר שהוא אפילו מזכיר לי קצת את צ'ארלס דרווין שגם לו היתה התובנה והחוכמה לחבר יחד לתאוריה אחת פשוטה דברים שכולם ראו סביבם אבל לא חשבו אף פעם לחבר אותם יחד.
אני לא יודע על אילו 100 דוגמאות הפוכות חשבת אבל ריי קורצוויל מדגיש ואומר כל הזמן שהוא מדבר אך ורק על טכנולוגיות מידע המבוססות על מידע ממוחשב, והוא נותן רשימה של מדדים שהעיקרי שבהם הוא עוצמת מחשב שאפשר לרכוש במחיר של 1000 דולרים, שבינתיים כפי שהוא חזה העוצמה של מחשב כזה מכפילה את עצמה כל שנה ולא נראה שהדבר הולך להיפסק בשנים הקרובות (ממש עכשיו יצא שבב חדש של אינטל בטכנולוגית תלת מימד שאמור לשמור על המגמה הזו, וכבר יש להם בדרך פיתוחים לשלב שלאחר מכן) ריי קורצוויל לא מדבר על כלי רכב ומכוניות ולכן הדוגמה שאוהבים לתת של מכוניות מעופפות לא רלוונטית כאן.
הרעיון המרכזי (המוטו אם תרצה) בדברים של קורצוויל הוא שכל הזמן נוצרות טכנולוגיות חדשות שמאיצות עוד ועוד את קצב ההתפתחות הטכנולוגית, מדובר כאן על תהליך טיבעי שאינו תלוי בהצלחה של חברה ספציפית זו או אחרת אלא הוא מושפע מהתמורה הכוללת של כל הפיתוחים המדעיים יחד בתקופת זמן מסויימת, אשר יחד נותנים דחיפה נוספת להאצה הטכנולוגית. לדוגמה חברה מסויימת מייצרת חומרים חדשים שמאפשרים לבנות שבבי מחשב מהירים יותר, וחברה אחרת מפתחת במקביל מערכות קירור יעילות יותר לקירור שבבי מחשב, ויחד שתי הטכנולוגיות האלו מאפשרות לפתח מחשבים מהירים ויעילים יותר, ואלו בתורם יאיצו תחומי מחקר רבים לדוגמה יאפשרו להריץ סימולציות מהירות ומדוייקות יותר של קשרים כימיים בין מולקולות או יאפשרו לבצע זיהוי מהיר יותר של רצפי גנים, או יאפשרו להריץ סימולציות מדוייקות וגדולות יותר של חתיכות מוח.
דוגמה נוספת לטכנולוגיה שנוצרת ושמאיצה את ההתקדמות היא האינטרנט, היום בזכות האינטרנט מדענים מכל העולם יכולים לשתף פעולה ולעבוד יחד על פרוייקטים משותפים, הם יכולים לשתף בינהם מידע. בעבר 20 מדענים יכלו לעבוד על אותו נושא כל אחד במקום אחר על כדור הארץ והם כלל לא ידעו ולא שמעו זה על זה. היום בזכות ההמצאה הנפלאה הזו שנקראת אינטרנט הם יכולים לאתר בקלות זה את זה ואז לעבוד יחד על נושא מחקרי משותף כקבוצת מחקר אחת כשכל אחד תורם מהידע והנסיון שלו. שוב, נוצרת כאן האצה של מחקר מדעי טכנולוגי בזכות הכלי הזה שנקרא אינטרנט, בלעדיו יתכן שהמחקר היה מתמשך פי 10 או פי 20 יותר זמן.
אם נחזור לנושא חקר המוח, מדעני מוח מהשורה הראשונה מצהירים בפה מלא כי הם עצמם נדהמים בכל יום שעובר מהקצב המהיר שבו חקר המוח מתפתח בשנים האחרונות – בזכות עוצמת המחשבים, ובזכות פרוייקט הגנום האנושי והמחקר הגנטי שמאפשר לקשר בין קיטעי די-אן-איי ובין חתיכות מוח. הם טוענים כי כיום בכל מספר חודשים שעוברים אנו למדים על המוח יותר ממה שלמדנו במשך כל המאה הקודמת, נוצרו כלי מחקר חדשים שמאפשרים לראות את המוח פועל בזמן אמת, ברזולוציה יותר ויותר גבוהה, נוצרו כלי מחקר מבוססי מחשב שעוזרים לעבד את הנתונים בצורה הרבה יותר מהירה (לדוגמה תוכנות מחשב מבוססות בינה מלאכותית שבאופן אוטומטי מרכיבות פרוסות מוח לכדי מודל תלת מימדי אחד), כלים שמאפשרים לבצע מניפולציות שונות במוח (דרך הגנים) ולראות את ההשפעה ודוגמאות רבות נוספות.
יש לדעתי כמה וכמה סיבות להיות אופטימי לגבי האפשרות שנצליח ליצור סימולציה מלאה של מוח על מחשב:
כמו שאמרתי קודם אין במוח שלנו קסמים ואין בו מיסטיקות, ומשום שבכל יום אנו למדים יותר ויותר דברים על המוח ועל דרך פעולתו ומשום שהקצב שבו אנו למדים את המוח הולך וצובר תאוצה מיום ליום אז דיי ברור שבנקודת זמן מסויימת נגיע להבנה מלאה או כמעט מלאה של המוח. ואפילו אם ההבנה שלנו לא תהיה מלאה עדיין נוכל לבנות סימולציה שתאפשר לנו להבין מה עוד חסר לנו (בדומה לבניית פאזל שגם כשהוא עדיין לא מלא בכל החלקים ניתן כבר להבין אילו חלקים חסרים לנו).
דבר נוסף המוח שלנו אמנם מאוד מורכב אך חלק גדול מהמורכבות הזו נוצר ע"י מספר מצומצם של מבנים אשר משוכפלים אינספור פעמים (בתוך קליפת המוח לדוגמה, אבל לא רק שם) , אינדיקציה נוספת לאפשרות של צימצום המידע היא שחתיכת הגנום שאחראית על בניית המוח היא הרבה פחות מורכבת מהמוח ומספר האותיות בה קטן בהרבה מאוד סדרי גודל ממספר הקשרים שקיימים במוח.
סביר להניח גם כי ברגע שנבין את עקרונות הפעולה של המוח נוכל לשחזר זאת בצורה יעילה ופשוטה יותר ולא נצתרך לשחזר את כל המורכבות שקיימת במוח ביולוגי, כפי שעל מנת לשחזר את פעולת התעופה של הציפורים באוויר לא היינו צריכים לבנות מטוסים עם נוצות או עם כנפיים מנפנפות וגם לא היינו צריכים לבנות מטוסים עם נימי דם וכל שאר המורכבות שקיימת בכנף של ציפור.
רשתות נויירונים פשוטות שרצות על מחשב מצליחות לזהות לא רע בכלל תבניות שונות (אותיות, קטעי מנגינות, פרצופים) וזו הרי העוצמה העיקרית של המוח שלנו, זיהוי תבניות. כמו כן בסימולציה הרבה יותר מורכבת של חתיכת מוח מדוייקת מאוד מבחינה ביולוגית כמו זו שנבנתה ב "פרוייקט המוח האנושי" (ראה בגוגל "עידן שגב") החלו להופיע באופן ספונטני תבניות חשמליות שונות שזהות מאוד לתבניות החשמליות שרואים במוח ביולוגי אמיתי במעבדה. מכל אלו אני מניח שככל שהסימולציה תורחב וככל שהיא תכוייל בצורה מדוייקת יותר כתוצאה ממידע שיגיע ממעבדות לחקר המוח כך יווצרו בה יותר ויותר תופעות דומות לאלו שנוצרות במוח ביולוגי עד להופעה של מודעות עצמית (נראה שזו תופעה שנוצרת כאשר רמת המורכבות במוח גבוהה מספיק, גם לקופי שימפנזה יש רמה מסויימת של מודעות עצמית אך היא הרבה יותר מעומעמת ומצומצמת כנראה ביחס למודעות שלנו).
מוח ממוחשב (מוח שייושם לדוגמה על שבב מחשב, ראה ברשימת הקישורים) אמור לעבוד לפחות פי מיליון מהר יותר ממוח ביולוגי, זו עוד סיבה לאופטימיות.
ועוד דבר, ברגע שתהיה לנו סימולציה פועלת של מוח על גבי מחשב יהיה אפשר לשפר אותה בצורה מחזורית אפילו ללא הבנה מלאה של דרך פעולתה, אלא רק ע"י ניסוי וטעייה. נגיד ויצרנו סימולציה של מוח חולדה – ניתן לחבר את המוח הזה לגוף רובוטי או אפילו לגוף וירטואלי בתוך סביבה וירטואלית ולאתגר את "החולדה" הזו בסידרה של משימות כדוגמה מבוכים או פתרון בעיות שונות כפי שנהוג לבצע עם חולדות במעבדה, לאחר מכן אפשר יהיה לבצע שינויים כלשהם במוח הממוחשב לדוגמה להכפיל או אפילו לשלש את מספר הנויירונים, לשנות את היחס בין החיבורים הקצרים והארוכים, לשנות את עוצמת הקשרים בין הסינפטות וכדומה, ואז שוב להעביר את החולדה הממוחשבת דרך אותה סדרה של משימות, ולבדוק באיזו מהירות ובאיזו יעילות החולדה פתרה את המשימות ביחס למצב הקודם.
זה היה ממש בקצרה (עד כמה שיכולתי) השעה כבר מאוחרת, אני בטוח שפיספסתי דברים ולא כתבתי את כל מה שרציתי אבל אני מקווה שהעיקרון דיי ברור.
הייתי מציע לבדוק את הקישורים שנתתי קודם כי הם מאוד מעניינים, ובכלל הייתי מציע לך לקרוא בהזדמנות שתהיה לך את הספר האחרון של ריי קורצווייל "הסינגולריות קרובה", הוא מסביר שם את הדברים בצורה לא רעה בכלל, יותר טוב ממני אני חושב.
-
-
אני חייב לומר שאתה מגיב די דומה לאיך שהחבר'ה בפודקאסט תארו שתומכי סינגולריות מגיבים.
באופן אישי אני לא יודע מה בדיוק צופן לנו עתיד הבינה המלאכותית. אני ממש לא יודע. ואני די נדהם מרמת הביטחון של אנשים שטוענים שהם כן יודעים, בעיקר כשאני רואה את הראיות שהם מסתמכים עליהם.
אתה יודע שעוד לא הרבה מאוד זמן חוק מור אמור לפגוע בקיר? שלא יהיה אפשר למזער ולאיץ עוד את המעבדים? יש תשובות לזה, שהנפוצה בהם היא המחשב, הקוונטי, אבל האמת שמחשוב קוואנטי הוא קצת כמו ההיתוך הקר של מדעי המחשב. אף אחד לא יודע אם הוא אפשרי בכלל, ואם כן מתי הוא יקרה. אם הוא לא יקרה והמהפכה של חוק מור תעצר, לא יהיו לך ביד המחשבים שקורצוויל חוזה.
בכמה כבר מאיץ האינטרנט את המחקר באמת? ומה הוא הכוח שגורם למהירות ההאצה להכפיל את עצמה? אינטנרט יש אחד. הוא לא נהיה פי-שניים יותר יעיל בהאצת המחקר כל שנה.
בינה מלאכותית היא נושא מרתק. אבל מי ביננו באמת יודע כמה קשה המשימה של יצירת בינה מלאכותית "אמיתית". התשובה היא שאף-אחד לא יודע. וגם קורצוויל לא יודע. תומכי הסינגולריות מחברים כל מיני פיסות מידע שמוצא חן בעיניהם ומתעלמים מהמכשולים והבעיות בטענה שזה כבר יסתדר איכשהו. יכול להיות שזה באמת יסתדר, אבל מאיפה הבטחון הזה?
אני דווקא תומך בהרבה מהמטרות של האידאולוגיה הפרו-טכנולוגית שעמה מזוהים הרבה מאנשי ה-"סינגולריות" למיניהם. אני לגמרי טכנופיל ורוצה לראות את הטכנולוגיה משפרת את חיינו ואת עתידנו, וזה כולל מחקר בבינה מלאכותית ובטרנס-הומניזם. אבל אני לא אוהב את זה שאנשים מתיימרים לדעת דברים שהם לא יכולים לדעת.
-
עשיתי כמיטב יכולתי להסביר מדוע אני חושב כך, ברור לי שזה לא שיכנע אותך, לבריאות. אני בסה"כ מציג את דעתי ואתה לא חייב לקבל אותה, פרטתי בשתי הודעות נפרדות שרשמתי מה גורם לי להאמין שהדברים כן יקרו באופן שתארתי, אותי הטיעונים כן משכנעים.
לגבי התיקרה שאתה מדבר עליה בחוק מור, לפי מה שידוע לי היא עוד רחוקה מאיתנו וישנן בקנה מספר טכנולוגיות שאמורות לשמור ב 20 שנים הקרובות על ההאצה הקיימת, אני גם ממש לא בטוח שמחשבים קוונטים יעזרו לנו לבנות סימולציה של המוח משום שהם לא מיועדים לסוג כזה של פעולה לפי מה שזכור לי.
דרך אגב מלך הסקפטים ג'יימס רנדי השתתף בכנס הסינגולריטי האחרון ולאחר ששמעתי את הרצאתו וקראתי את הרשמים שהוא העלה מהכנס קיבלתי את הרושם שאפילו הוא לא פוסל את הרעיון על הסף.
-
-
אני מבין את הסקפטיות שלך, אבל עדיין אני חושב שישנן לא מעט סיבות טובות להיות אופטימיים בנושא, אני רואה כמה מגמות ברורות של התקדמות בתחומים הנדרשים עבור המשימה, כמו לדוגמה עוצמת המחשבים שמוכפלת בכל שנה, ההתקדמות המהירה בתחום חקר המוח, ההתפתחות המהירה של כל נושא הננו טכנולוגיה, ההבנה ההולכת ומעמיקה שלנו לגבי הגנום והביולוגיה שלנו. לי דיי ברור "במבט על" שכל אלו יחד יובילו בעשורים הקרובים לאפשרות אמיתית ןמעשית של בניית מוח מלאכותי מעשה ידיי אדם. ומשום שהאבולוציה לא יוצרת בדרך כלל דברים מושלמים אז יש סיבה טובה להניח שברגע שיהיה לנו מוח מלאכותי כזה נוכל אפילו רק ע"י תהליך של ניסוי וטעייה לשפר אותו בכמה וכמה רמות כך שיתעלה על המקור, פרטתי על כך בהודעות הקודמות.
בכל אופן השורה התחתונה היא שהמוח שלנו הוא ההוכחה החותכת לכך שהדבר כן אפשרי וכן ניתן לביצוע, אם האבולוציה עשתה זאת באופן עיוור וללא כוונה אז גם אנחנו נעשה זאת ובצורה מהירה טובה ויעילה יותר.
-
אבל:
הכפלת כוח החישוב של המחשבים מוגבלת ולא מספיקה בשביל להשיג את המטרה. צריך את האלגוריתמים הנכונים שירוצו על המחשבים.
חקר המוח נמצא עדיין בחיתוליו וקשה לדעת כמה מהר אנחנו מתקדמים וכמה רחוקה המטרה.
הננו טכנולוגיה מתפתחת יותר לאט ממה שהיא היתה "אמורה" להתפתח. כבר היו אמורים להיות לי תאי דם מלאכותיים שיאפשרו לי לשהות דקות ארוכות מתחת למים. איפה הננו-דם שלי גוד דאם איט?
את הגנום פיצחנו לפני כעשור אבל מבול התרופות הוא בינתיים זרזיף, אז לאט לך מלהבטיח הבטחות מרחיקות לכת עוד יותר.
למה שאתה קורא מבט על, אני קורא ראיה סלקטיבית. החוזים וההוזים מסתכלים על הכל מלמעלה ואם משהו לא מסתדר, אז אלה "סתם פרטים לא חשובים". הפרטים חשובים. הם ההבדל בין נס לקטסטרופה, בסופו של דבר.
-
-
-
-
-
הי,
שוב סחטיין על ההשקעה בתגובה (אם כי היא ארוכה). אני מתעניין בתחומים שאתה מציין ומכיר את הנתונים אבל ההבדל ביננו הוא חוסר האופטימיות לגבי מה שצופן לנו העתיד. אני מטבעי רואה את המחסומים.
מעבר לכך, אני מתעסק בתואר בבינה מלאכותית של רובוטים ויכול להגיד לך שהמרחק שיש לצעוד הוא עצום והיום מה שיודעים לעשות, בלי ניפוח של התקשורת, זה בעיקר לתכנן למשימות ספציפיות וקצת גנריות. אני כולל בזה אלגוריתמים אבולוציוניים שעליהם דיברת בהקשר לאימון החולדה.
תזכור שהאבולוציה עיצבה את המוח במהלך אינסוף זמן (ביחס לשנות חיינו) ואינסוף משאבי חישוב לצורך העניין. והכי חשוב זה שהאבולוציה היא לא עיוורת אלא יש בה מרכיב אקראי – המוטציות בגנים, ומרכיב מאוד לא אקראי – סינון המתאימים ביותר.
רק רפרפתי על הקישורים ששלחת, אולי בהזדמנות אני אעיין יותר לעומק.לגבי פסאדו-מדע: אתה לא טוען שמדובר בתיאוריה מדעית אבל אחרים בתחום כן מדברים על זה כמדע ואז יש צידוק לקרוא לזה פסאודו-מדע. יכול להיות שמבחינתך זה סוג של אידיאולוגיה/תפיסת עולם. הבעיה שלי היא לא רק עם היות תחום זה לא מדעי אלא עם כך שניתנת מעט מידי תשומת לב לטעמי, מצד התומכים ברעיון, לדינמיקה של המציאות המשנה את הנתונים שיש בידנו בצורה קיצונית, עד כדי חוסר אפשרות לחזות את קו הסיום בצורה מהימנה.
-
-
#25 נכתב על ידי ירון אסא לפני 13 שנים
יש עוד כמה דברים על הכוונת שלי, אבל אני מבטיח שאכן אכתוב משהו נרחב יותר בנושא הסינגולריות.
רק כנקודה קטנה, דוגמה לאיך שמניעים אנושיים יכולים לפגוע במגמת ההאצה הטכנולוגית:
http://www.channelregister.co.uk/2011/05/30/intel_margin/אני לא אומר שזה טיעון נגד, אבל זאת רק המחשה למשהו שאמרנו בתוכנית.
-
- רישום לרסס תגובות
האם עתידנות היא פסאודו-מדע? לדעתי עתידנות היא משהו אחר מאשר מדע קונקרטי עם השערות אפס וניסויים, ויכולה להיות לו תוכלת חיובית כלפי האנושות.
זו אכן בעיה שיש אנשים מונעים אידיאולוגית בין הסינגולריטאנים, וכן, קורצוויל קצת קוקו (למרות שגיגול מהיר לא סיפק לי -הוכחה- שהוא התחיל להאמין בהומאופאתיה), אבל ההצגה שלכם לנושא נראית כאילו היתה לכם מטרה להלעיג את הנושא, או שאתם מתקשים להתעסק בדברים שאינם מדע ואינם פסאודו-מדע (העולם קצת מרוכב יותר…).
ממש לא מרגיש לי שחקרתם את הנושא עם ראש פתוח. הגישה שלכם נשמעת מאוד מאוד שמרנית, בצורה כזו שהיתה לועגת לכל סופר מד"ב אי פעם (גם אם הרוב טעו חלק לא מבוטל מהם צדק אם משמיטים את שנת התחזית, מה שאין לי בעיה איתו כי זה לא מדע) או לכל מדען בעל חזון. אני מעדיף שהסלקציה הטבעית תנפה את החזיונית הפגומים, לא שמרנות שתתנגד ותלעג לכולם.
הגישה שלכם כ"כ נגד שלדעתי סיפקתם להדיוטות את החושה שכל קידמה קיצונית שכזו היא לא אפשרית או שמקומה בשנת 5000 ושמדובר באופנה למדענים מטורללים (האופנה הזו מקובלת גם אצל מדענים "רציניים", במספר רב יותר מאשר אצל מטורללים לדעתי).
הסינגולריטי יוניברסיטי יושבת בקמפוס של ספייס יוניברסיטי של נס"א, ויחד עם קורצוויל מנהלים אותה עוד כמה אנשים קצת פחות מטורללים (דיאמנטיס מהאקס פרייז למשל) (רציתי לציין זאת למרות שאני לא בעד טיעונים מסמכות כי אולי זה יערער קצת על הלעג האוטומטי שהשתמע מקולכם).
ניפקטתם בהרבה טיעני-בעד (שעל רובם לדעתי אפשר לנהל דיון הרבה יותר רציני ולסתור חלק מטענותיכם) שגם אם הם אכן יפסלו, אין בכך מספיק מוריד מהערך של ההתעסקות בסינגולריטי…
מן העולה בין הלעג שלכם לנושא, שאתם מכירים בכך שיש שינויי פרדיגמות רציניים, ושיש האצה מסויימת, ושיש טכנולוגיות שיגרמו לעתיד הלא רחוק (נגיד 50-100 שנה) להיות שונה בצורה קיצונית. בזה דנה כל ההתעסקות בסינגולריטי… לא בתיאור המדוייק של המילה הזו (ולא בנקודה על גרף שקורצוויל מאמין בה). לדעתי זה גובל באיש קש להתעסק במילת מפתח שהומצאה לפני כל הידע שהצטבר בנושא מאז שהמציאו לו שם.
אף אחד (חכם;)) לא חושב שבאיזה יום שבת חורפי בצהריים יקרה הסינגולריטי ואז … המפץ הגדול או משהו.
אגב, השימוש במילה רקורסיבי בשביל לתאר איטרציות מואצות של התפתחות AI נראה לי שגוי. 🙂