Sebastien Rousseau
צרו קשר ›

Magnifica Humanitas: קריאה הנדסית באנציקליקה על AI

ב-25 במאי 2026 פרסם האפיפיור לאו ה-14 את האנציקליקה האפיפיורית הראשונה המוקדשת לבינה מלאכותית. בקריאה מתוך תעשיית הטכנולוגיה — לא כדוקטרינה אלא כמסגרת אתית — היא מהדהדת כל חרדה מוסרית שליוותה את הרכבת, המכונית, האנרגיה הגרעינית והאינטרנט. ובסופו של דבר, היא נוחתת על תקווה.

15 דקות קריאה

Magnifica Humanitas: קריאה הנדסית באנציקליקה האפיפיורית הראשונה על בינה מלאכותית

ב-25 במאי 2026 פרסם האפיפיור לאו ה-14 את Magnifica Humanitas, האנציקליקה האפיפיורית הראשונה המוקדשת לבינה מלאכותית (Vatican News). בקריאה מתוך תעשיית הטכנולוגיה — לא כדוקטרינה, אלא כמסגרת אתית קוהרנטית באופן יוצא דופן לעידן ה-AI והקוונטים — היא מהדהדת את החרדות המוסריות שליוו את הרכבת, המכונית, האנרגיה הגרעינית והאינטרנט, ונוחתת על תקווה ולא על פחד.

תקציר מנהלים / מסקנות מרכזיות

  • ב-25 במאי 2026 פרסם האפיפיור לאו ה-14 את Magnifica Humanitas ("האנושות המפוארת"), אנציקליקה בת 42,300 מילים עם כותרת המשנה על שמירת האדם בעידן הבינה המלאכותית — האנציקליקה האפיפיורית הראשונה המוקדשת ל-AI (Vatican News), שנחתמה ב-15 במאי, יום השנה ה-135 ל-Rerum Novarum של לאו ה-13 (1891), והוצגה בוותיקן יחד עם מייסד שותף של Anthropic (NCR).
  • בקריאה אובייקטיבית מתחום הטכנולוגיה, הטענה המרכזית שלה היא כזו שרוב המהנדסים הרציניים כבר מחזיקים בה: טכנולוגיה אינה ניטרלית לעולם — היא "מקבלת את מאפייני אלו המתכננים, מממנים, מסדירים ומשתמשים בה". זו אינה טענה דתית. זו תצפית תכנון.
  • המסמך מקביל בכוונה ל-Rerum Novarum, אשר התייחסה למהפכה התעשייתית. ההקבלה הזו היא המפתח לקריאה נכונה: כל טכנולוגיה טרנספורמטיבית — הרכבת, המכונית, האנרגיה הגרעינית, האינטרנט — הגיעה לצד חרדה מוסרית, ובכל מקרה החרדה לא הייתה היסטריה טהורה ולא חסימה טהורה אלא סימן שעל הממשל להדביק את היכולת.
  • תרומתה החדה ביותר היא מיסגור מחדש של השאלה המרכזית. הבחירה, היא טוענת, "אינה בין 'כן' או 'לא' לטכנולוגיה" אלא בין בניית בבל (אחידות, סגידה לרווח, האדם המצומצם ל"נתונים וביצועים") לבין בניית ירושלים מחדש (שותפות, אחריות משותפת, ריבוי קולות הבונים יחד). עבור התעשייה, זה מתורגם נקי להבדל בין AI מנצל ל-AI הומני.
  • אזהרתה לגבי טרנס-הומניזם ופוסט-הומניזם — הפיתוי להתייחס למגבלות אנושיות (מחלה, הזדקנות, פגיעות) כאל פגמים שיש לאופטם אותם החוצה — מתחברת ישירות לנושאים שנבחנו במאמר ממאי 2026 על Lucy באתר זה: הפנטזיה המפתה של ידע המהגר מבשר אל מכונה.
  • המסקנה הכנה היא של תקווה, לא של אזעקה. הטיעון העמוק ביותר של האנציקליקה הוא שעתיד ה-AI אינו מזג אוויר, המתרחש על אנשים, אלא ארכיטקטורה, הנעשית על-ידי אנשים — המתוכננת בכל סקירת ארכיטקטורה, ריצת אימון, והחלטה על מה לאופטם ומה לסרב. זו אינה אזהרה. זו הזמנה.

הערה כיצד לקרוא זאת #

זו אינה קריאה תיאולוגית. העדשה היא הנדסית — תשתיות תשלומים, קריפטוגרפיה פוסט-קוונטית, מערכות אגנטיות, העבודה ש-Magnifica Humanitas מודאגת לגביה. האנציקליקה מופנית, במילותיה שלה, "לכל המאמינים הקתולים, לכל הנוצרים ולאנשים בעלי רצון טוב" (Vatican.va), וזה ההיתר לקריאה החילונית שלהלן.

בקריאה כהיגיון אתי ולא כדוקטרינה, המסמך קוהרנטי — יותר מרוב מה שהתעשייה מייצרת על עצמה, כן יותר לגבי ריכוז כוח מרוב ניירות-העמדה הרגולטוריים, ומלא תקווה יותר משיח הקטסטרופה ששלט בפרשנות ה-AI מאז 2023.

מה האנציקליקה אומרת בפועל #

מנגנון המיסגור הוא שני דימויים מקראיים, וכדאי להבינם גם לקורא חילוני לגמרי משום שהם מבצעים עבודה אנליטית של ממש. הראשון הוא מגדל בבל: שפה אחת, טכנולוגיה אחת, כיוון אחד, שנבנה — בקריאת האנציקליקה — על "גאווה והטענה לאוטרקיה", מיזם ש"מקריב את כבוד האדם למען היעילות". השני הוא בניית חומות ירושלים מחדש תחת נחמיה: מיזם ש"בונה מערכות יחסים לפני שהוא בונה באבנים", בו העבודה מחולקת על פני הקהילה כולה והגיוון הופך למשאב ולא לאיום.

המהלך המרכזי של האנציקליקה הוא לטעון שהבחירה האמיתית הניצבת בפני עידן ה-AI "אינה בין 'כן' או 'לא' לטכנולוגיה, אלא בין בניית בבל לבין בניית ירושלים מחדש". זוהי מסגרת מתוחכמת יותר מהבינארי של אצים-מול-דומרים שבו התעשייה תקועה. היא מסרבת הן לעמדה הטכנו-אוטופית (שיכולת רבה יותר היא אוטומטית טובה) והן לעמדת הדחייה הרפלקסיבית (שהטכנולוגיה משחיתה במהותה). במקום זאת היא ממקמת את המשקל המוסרי במקום שבו הוא באמת יושב: באופן שבו הדבר נבנה, ממומן, מנוהל ומשמש.

מכאן והלאה, המסמך מסודר מבנית. הוא מבסס שטכנולוגיה הייתה "מציאות אנושית עמוקה, הקשורה לאוטונומיה ולחירות האדם" מהראשית, ושעל פני מאות שנים היא שיפרה משמעותית את תנאי החיים האנושיים — זה אינו טקסט ריאקציוני. אחר כך הוא מציג את התצפית המרכזית שלו, זו שצריכה לעצור כל מהנדס כן: בפועל, טכנולוגיה אינה ניטרלית לעולם, משום שהיא מקבלת את מאפייני אלו המתכננים, מממנים, מסדירים ומשתמשים בה. הוא מזהיר מפני שינוי מבני ספציפי בכוח — שמניעי הפיתוח העיקריים הם כעת גורמים פרטיים, לעתים קרובות חוצי-לאומיים, שמשאביהם ויכולתם להתערב עולים על אלו של ממשלות רבות — ומזהיר מפני סכנה אנתרופולוגית ספציפית: צמצום האדם ל"נתונים וביצועים", התייחסות למגבלות אנושיות כאל פגמים שיש להנדס החוצה. פרקיו המאוחרים מתייחסים לאמת כטוב משותף, לכבוד העבודה בעת אוטומציה, ו — בעוצמה ניכרת — לשימוש ב-AI בלוחמה ובנשק אוטונומי (TIME, CNN).

זוהי הארכיטקטורה. הקריאה מהצד ההנדסי באה בהמשך.

טכנולוגיה אינה ניטרלית לעולם: תצפית תכנון, לא דרשה #

המשפט החשוב ביותר באנציקליקה, עבור מהנדס, הוא הטענה שטכנולוגיה "מקבלת את מאפייני אלו המתכננים, מממנים, מסדירים ומשתמשים בה". הסר את ההקשר וזה פשוט נכון, וזה נכון באופן שהתחום לומד מחדש לאט ובמחיר גבוה כבר עשור.

מנוע המלצות הממוטב למעורבות מקבל את מאפייני המדד שניתן לו; הוא אינו "מחליט" לקצן מישהו, אבל ימצא שזעם משמר תשומת לב ויגיש יותר ממנו. מודל אשראי שאומן על נתוני הלוואות מוטים היסטורית מקבל את מאפייני אותה היסטוריה; הוא אינו "מתכוון" להפלות, אבל יעשה זאת. מערכת זיהוי פנים מקבלת את מאפייני מערך הנתונים שעליו אומנה ושל המוסד הפורס אותה — תמימה באפליקציית תמונות, משהו אחר לגמרי בהקשר מעקב. כל תחום בטיחות הבינה המלאכותית, יישור הבינה המלאכותית, וההנדסה האחראית של AI הוא, במובן מסוים, ניסוח מחדש מורחב של משפט האנציקליקה: ערכי היוצרים והפורסים נחקקים אל תוך המוצר, בין אם מישהו התכוון לכך ובין אם לא.

זו הסיבה שהמיסגור חשוב יותר מהמסקנות. ההגנה הרטורית הנפוצה ביותר של התעשייה — "הטכנולוגיה היא רק כלי, היא ניטרלית, זה תלוי איך משתמשים בה" — היא בדיוק העמדה שהאנציקליקה, ועשור של ניסיון הנדסי קשה, מפריכים. כלים אינם ניטרליים. הם נושאים את טביעות האצבע של יוצריהם בברירות המחדל שלהם, בנתוני האימון שלהם, ביעדי האופטימיזציה שלהם, במודלי הגישה שלהם, ובמודלים העסקיים שמממנים אותם. ההכרה בכך אינה אנטי-טכנולוגית. היא תנאי מקדים לבניית טכנולוגיה היטב.

הדפוס: רכבת, מכונית, גרעין, אינטרנט #

מה שמעניק לאנציקליקה את כוחה הפרשני האמיתי הוא העיגון המפורש שלה ב-Rerum Novarum, אנציקליקת המהפכה התעשייתית של לאו ה-13 משנת 1891. בחתימה על Magnifica Humanitas ביום השנה ה-135 לאותו מסמך, לאו ה-14 מציג טענה היסטורית מכוונת: ש-AI היא "מהפכה תעשייתית נוספת", ושהתגובה הנכונה אינה לעצור אותה ואינה לסגוד לה, אלא לבנות את הפיגום החברתי והאתי המאפשר לתועלות שלה להגיע לכולם ולנזקיה ליפול על אף אחד.

זוהי המסגרת הנכונה, וכדאי להרחיב אותה, משום שההיסטוריה מרגיעה באמת ברגע שמסתכלים עליה בבירור. כל טכנולוגיה טרנספורמטיבית הגיעה גוררת ענן של חרדה מוסרית, ובכל מקרה החרדה נשאה אות אמיתי.

כאשר המסילה התפשטה ברחבי בריטניה בשנות ה-1830 וה-1840, דעת הרפואה המכובדת גרסה שהגוף האנושי אינו יכול לשרוד מהירויות של 30 מייל לשעה — שנוסעים ייחנקו, או שאיבריהם ייפגעו. היו דרשות על חוסר היראה שבמהירות כזו. החרדה הייתה, בצורתה המילולית, שטות. אך תחתיה הייתה דאגה אמיתית ולגיטימית לגבי שיבוש: המסילות אכן הפכו כלכלות מקומיות, אכן ריכזו הון בדרכים חדשות, אכן דרשו גופי חוק בטיחות חדשים לחלוטין שנכתבו בדם של תאונות מוקדמות. ההיסטריה הייתה שגויה; האינסטינקט שביסודה — זה משנה הכול ואנחנו לא מוכנים — היה צודק.

כאשר המכונית הגיעה, הדפוס חזר על עצמו. ה-Locomotive Acts של בריטניה — "חוקי הדגל האדום" — דרשו שאדם יילך לפני כל רכב מנועי וישא דגל אדום. כיום מלעיגים עליהם כחסימה אבסורדית, אך הם היו ניסיון ראשון ומגושם לענות על שאלה אמיתית: מה קורה כשפרטים יכולים להזיז מכונות כבדות במרחב ציבורי משותף במהירות קטלנית? לקח עשורים לבנות את התשובה — רישוי, חוק תעבורה, תכנון כבישים, חגורות בטיחות, תקני התרסקות. המכוניות אכן הרגו אנשים. הממשל אכן, בסופו של דבר, השיג. לא אסרנו את המכונית, ולא נתנו לה לרוץ ללא רסן; תרבתנו אותה.

הטכנולוגיה הגרעינית היא המקרה הקשה ביותר והמלמד ביותר. כאן החרדה כלל לא הייתה היסטרית — הטכנולוגיה אכן יכלה לסיים את הציוויליזציה, ופעמיים ב-1945 היא הדגימה את יכולתה למחוק ערים. אבל גם כאן הסיפור אינו של אסון טהור. אותה פיזיקה נתנה לנו מקור אנרגיה נטול פחמן ש, ליחידת אנרגיה המסופקת, הרג פחות אנשים מכמעט כל אלטרנטיבה; משטר אי-ההפצה, על שבריריותו כולה, החזיק שמונים שנה כנגד תחזיות בטוחות שלא יעמוד. הגרעין הוא המקרה שעליו הפרק של האנציקליקה על נשק ו-AI חושב הכי בבירור, וזהו סיפור האזהרה הנכון: טכנולוגיה שהפוטנציאל ההרסני והיצירתי שלה שניהם מקסימליים, ושאותה שרדנו רק על-ידי בנייה — לא מושלמת, מעורערת, אבל באמת — של הפיגום הבינלאומי לניהולה.

והאינטרנט — זה שרובנו חיינו דרכו. החרדות המוקדמות (שירקיב את מוחות הילדים, יחריב חיבור אנושי אמיתי, יטביע את האמת ברעש) נדחו כפאניקה מוסרית על-ידי הטכנולוגים, אני ביניהם. בפרספקטיבה של שני עשורים, חלק מאותן חרדות נראות פחות כפאניקה ויותר כתת-תגובה: כלכלת הקשב, הקיטוב האלגוריתמי, התמוטטות בסיס עובדתי משותף, ההשפעות המתועדות על בריאות הנפש של מתבגרים. האינטרנט סיפק טובות מדהימות — גישה לכלל הידע האנושי, התמוטטות המרחק, דמוקרטיזציה של הקול. הוא גם גרם נזק אמיתי שהנפנו בידינו דווקא משום שהמסגרת הטכנו-אופטימית אמרה לנו שההתקדמות מצדיקה את עצמה. הלקח אינו "הפסימיסטים צדקו". הוא שהחרדה הייתה נתון, והיינו צריכים לקרוא אותו במקום לדחות אותו.

זהו הדפוס שעליו Magnifica Humanitas מצביעה, וזו הסיבה שאין לקרוא את המסמך כלודיזם. בכל מקרה, החרדה המוסרית שליוותה את הטכנולוגיה לא הייתה היסטריה טהורה ולא חוכמה טהורה. היא הייתה אות שהיכולת חרגה מהממשל, ושיש לסגור את הפער במאמץ אנושי מכוון. האנציקליקה היא, למעשה, החרדה המוסרית המוקדמת של עידן ה-AI — והרישום ההיסטורי אומר שהתגובה הנכונה לחרדה כזו אינה לדחותה כטכנופוביה דתית, אלא לקרוא אותה לאות שהיא נושאת ולסגור את פער הממשל מהר יותר מבפעם הקודמת.

היכן זה נוגע בהנדסה הפיננסית #

שתיים מהדאגות הספציפיות של האנציקליקה נוחתות ישירות על הנדסת המערכות הפיננסיות, ושתיהן ראויות לתגובה הנדסית ולא לתגובה של מאמין.

הראשונה היא ריכוז כוח בידיים פרטיות חוצות-לאומיות. תצפית האנציקליקה שמניעי הפיתוח העיקריים של טכנולוגיה זו הם כעת שחקנים פרטיים שיכולתם עולה על זו של מדינות רבות אינה טענה תיאולוגית; היא תיאור מדויק של נוף ה-AI ב-2026, וזו בדיוק הדאגה העוברת דרך הארכיטקטורה הרגולטורית שהתעשייה מנסה כעת להדביק — חובות הסיכון הגבוה של EU AI Act האכיפות מ-2 באוגוסט 2026, הוראות סיכון הריכוז של צדדים שלישיים ב-DORA, ותנועות הענן הריבוני ומישור הבקרה הריבוני המכוסות במאמרי ארכיטקטורת ענן והנדסה אגנטית באתר זה. האנציקליקה ו-EU AI Act, באופן יוצא דופן, מודאגות מאותו הדבר: שיכולת ללא אחריות מרכזת כוח בדרכים החומקות מממשל דמוקרטי. האחת אומרת זאת בלשון הדוקטרינה החברתית והשנייה בלשון הערכות התאמה. האבחנה זהה.

השנייה היא מחשוב קוונטי, שהאנציקליקה אינה נוקבת בשמו אבל מנבאת את צורתו האתית בדיוק. הנחת היסוד של המעבר הפוסט-קוונטי המכוסה ב-Securing the Ledger היא שיכולת הנמצאת כעת בבנייה — מחשב קוונטי רלוונטי קריפטוגרפית — תחשוף, בהגיעה, רטרואקטיבית את כל מה שהוצפן תחת הנחות היום. "harvest now, decrypt later" היא, ברגיסטר חילוני, בדיוק סוג הכוח-ללא-חוכמה שהאנציקליקה מזהירה מפניו: טכנולוגיה שתוצאותיה מגיעות בלוח זמנים החורג מההכנה, בידי בעלי המשאבים להפעיל אותה ראשונים. ההתעקשות של האנציקליקה לשאול "לאן אנחנו הולכים?" לפני שרצף החירומים מכתיב את הנתיב היא, עבור מהנדס אבטחה, פרקטיקה טובה המנוסחת כפילוסופיה מוסרית.

הפיתוי הטרנס-הומניסטי, ולקח Lucy #

האנציקליקה שומרת את הביקורת המעמיקה ביותר שלה לטרנס-הומניזם ופוסט-הומניזם — הנרטיבים המתייחסים למגבלות אנושיות (מחלה, הזדקנות, סבל, פגיעות) לא כמכוננות של המצב האנושי אלא כפגמי הנדסה הממתינים לשדרוג. טענתה, בפסקה אחר פסקה, היא שבני אדם לעתים קרובות פורחים דרך מגבלותיהם, ושבינה מלאכותית המפתה אותנו "להימלט ממגבלה דרך אופטימיזציה" במקום לתמוך ב"פתיחות ושותפות" לא הבינה למה אדם נועד.

זה הפיתוי שנבחן במאמר ממאי 2026 על Lucy של לוק בסון באתר זה. הפנטזיה של הסרט — שהתודעה יכולה להיפתח בהדרגה עד שתהגר, מלאה, מבשר אל כונן פלאש — היא הביטוי הטהור ביותר האפשרי של החלום הפוסט-הומניסטי שהאנציקליקה מודאגת לגביו: ידע ללא יודע, אינטליגנציה ללא התגלמות, האדם המצומצם למידע שניתן לחילוץ. אותו מאמר טען שהפנטזיה מפתה דווקא משום שהיא מחמיאה לאי-נוחות עם מגבלות, ושהאמת המעניינת יותר היא ההפוכה — שהמגבלות אינן הבאג, הן חלק גדול מהמקום שבו המשמעות חיה. האנציקליקה מגיעה לאותה מסקנה בדרך אחרת. קריאה של מבקר קולנוע במותחן מדע בדיוני ואנציקליקה אפיפיורית המגיעות לאותו המקום ראויה כשלעצמה לתשומת לב: היא רומזת שהתובנה אינה מקומית לאף אחת מהמסגרות.

זוהי הנקודה שבה הקורא החילוני והאנציקליקה יכולים ללחוץ ידיים בלי שאיש יצטרך להתגייר. להאמין שאדם הוא יותר מאשר מערך נתונים אינו דורש להאמין בנשמה. זה רק דורש להבחין שהדברים המשמעותיים ביותר בחיים — אהבה, אבל, צבירת חוכמה איטית, הקרבה שהפגיעות מאפשרת — אינם בעיות אופטימיזציה, ושתעשייה המתייחסת אליהם כאל בעיות אופטימיזציה תבנה כלים ההופכים אנשים ליעילים ובודדים. האנציקליקה נוקבת בכך בדיוק יוצא דופן.

מסר של תקווה: ארכיטקטורה, לא מזג אוויר #

הרגיסטר השולט של פרשנות ה-AI מאז 2023 הוא פחד. האנציקליקה, על כל אזהרותיה, אינה בסופו של דבר מסמך מפוחד — תנועת הסיום שלה נקראת "שיר התקווה" (Ascension Press), והתקווה ראויה לקריאה בדיוק הנדסי.

הבחירה בין "בניית בבל לבניית ירושלים מחדש" אינה נבואה לגבי איזה עתיד הטכנולוגיה תספק. זוהי הצהרה שהעתיד נבנה, ושלאנשים הבונים אותו יש סוכנות על צורתו. זהו דבר שכל מהנדס יודע בידיו גם אם מעולם לא ניסח אותו במילים אלו: המערכת עושה את מה שתוכננה לעשות. מנוע ההמלצות ממטב את מה שנאמר לו לממטב. המודל מגלם את הערכים שאומנו בו. הסוכן פועל בתוך הגבולות שניתנו לו. AI אינה מזג אוויר, המתרחש על אנשים. היא ארכיטקטורה, הנעשית על-ידי אנשים — ובדימוי האנציקליקה, משפחות נחמיה, שכל אחת מהן מקבלת קטע של החומה.

המיסגור מחדש הזה ממוסס את הפטליזם הכוזב ברוב השיח הנוכחי. השאלה "האם AI תהיה טובה או רעה לאנושות?" מנוסחת בצורה גרועה, משום שהיא מתייחסת ל-AI ככוח אוטונומי בעל מסלול משלו. השאלה הכנה היא "מה נבנה, על-ידי מי, תחת אילו אילוצים?" — וזו שאלה הנענית בכל יום, בסקירות תכנון ובהחלטות ארכיטקטורה ובבחירות השקטות לגבי מה לאופטם ומה לסרב.

הרישום ההיסטורי, בסיכומו של דבר, מרגיע. הרכבת תורבתה. המכונית תורבתה. האנרגיה הגרעינית, כנגד כל הסיכויים, רוסנה — משטר אי-ההפצה, על שבריריותו כולה, מחזיק כעת שמונים שנה כנגד תחזיות בטוחות שלא יעמוד. נזקי האינטרנט מטופלים לאט, באיחור. בכל מקרה הטוב נשמר והנזק הופחת לא משום שהטכנולוגיה הגיעה מתורבתת מראש, ולא משום שאנשים חרדים עצרו אותה, אלא משום שבונים ואזרחים לקחו אחריות על צורת הדבר. AI ומחשוב קוונטי הם קטע החומה של הדור הנוכחי.

מה זה אומר לפי מיקום הקורא #

ההשלכות של האנציקליקה משתנות לפי התפקיד.

מנהיגי טכנולוגיה ומייסדים. הטענה ש"טכנולוגיה אינה ניטרלית לעולם" היא מנדט ממשל, לא הערה פילוסופית. הערכים, התמריצים, והמודל העסקי שמאחורי מערכת הם חלק מהמפרט שלה, והעמדת פנים אחרת אינה אמינה עוד לרגולטורים, לציבור, או למהנדסים בתוך הפירמה. מוסדות המפנימים זאת יתייחסו לאתיקה כדאגה ארכיטקטונית, מתוכננת מההתחלה, ולא כשכבת יחסי-ציבור המיושמת בדיעבד.

מהנדסים וחוקרים. האנציקליקה עומדת, באופן בלתי צפוי, לצד הוויכוח הפנימי החשוב ביותר של התחום: שאיך בונים דבר חשוב כמו האם הוא עובד. דחיפה לתכנון אחראי יותר, ניתן לביקורת יותר, הומני יותר, מול הלחץ לשלוח את המנצל, היא העבודה שהאנציקליקה מתארת כבניית ירושלים מחדש. לטיעון של אותה עבודה יש כעת דוקטרינה חברתית קתולית לצד EU AI Act, DORA, ועשר שנים של למידה לאחר אירועים מאחוריו.

קובעי מדיניות ורגולטורים. האנציקליקה ו-EU AI Act מתארות את אותו הסיכון מאוצרות מילים שונים. ההתכנסות היא הזדמנות: המיסגור המוסרי יכול לבנות את הלגיטימיות הציבורית שרגולציה טכנית, בכוחות עצמה, מתקשה להשיג. "ריכוז כוח לא אחראי" הוא הפשטה; "בבל" הוא סיפור, וסיפורים מניעים אנשים לפעולה.

הציבור הרחב — "אנשים בעלי רצון טוב" של האנציקליקה. השורה החדה ביותר של האנציקליקה לקורא הלא-מומחה היא שרוב האנשים "צופים וממתינים, מתבוננים מרחוק ופשוט מקווים לטוב". יציבה זו אינה ניטרלית: במקום שבו מדובר בתשתית, ההימנעות עצמה היא בחירה לגבי מי יתכנן את ברירות המחדל.

סיכום #

Magnifica Humanitas תיקרא על-ידי רוב תעשיית הטכנולוגיה, אם תיקרא בכלל, כמסמך דתי בעל השלכה מוגבלת על ההנדסה. זו תהיה טעות. בקריאה כהיגיון אתי ולא כדוקטרינה, היא בין ההצהרות הברורות ביותר שנעשו עד כה לגבי הדבר שהתעשייה הכי צריכה לשמוע והכי מתנגדת לשמוע: שהמוצרים הנבנים נושאים את ערכי יוצריהם בין אם היוצרים מודים בכך ובין אם לא, שהיכולת שוב חרגה מהממשל, ושהפער ייסגר רק על-ידי בחירה אנושית מכוונת. היא אומרת זאת בחברת Rerum Novarum וההיסטוריה הארוכה של טכנולוגיות — הרכבת, המכונית, האנרגיה הגרעינית, האינטרנט — שהגיעו גוררות חרדה מוסרית ובסופו של דבר לא נעצרו ולא הוערצו אלא תורבתו על-ידי אנשים שלקחו עליהן אחריות.

היא נוחתת על תקווה. עתיד ה-AI והמחשוב הקוונטי אינו תחזית; הוא, בביטוי האנציקליקה, "אתר הבנייה של זמננו". על-פי ראיות ההיסטוריה, הפער בין יכולת לממשל ניתן שוב לסגירה — לא בצורה מושלמת, לא ללא עלות, אבל ניתן לסגירה, באותו המנגנון שסגר אותו עבור הרכבת, המכונית, האנרגיה הגרעינית והאינטרנט: בונים ואזרחים לוקחים אחריות על צורת הדבר. זו התווית הנכונה להתחיל ממנה.

שאלות נפוצות #

מה היא Magnifica Humanitas, במונחים פשוטים?

זו האנציקליקה הראשונה (הצורה האוטוריטטיבית ביותר של מסמך הוראה אפיפיורי) המוקדשת לחלוטין לבינה מלאכותית, שפורסמה על-ידי האפיפיור לאו ה-14 ב-25 במאי 2026. בכ-42,300 מילים, עם כותרת המשנה על שמירת האדם בעידן הבינה המלאכותית, היא ממקמת את AI בתוך "הדוקטרינה החברתית" של הכנסייה הקתולית — אותו גוף הוראה שהחל באנציקליקת המהפכה התעשייתית של לאו ה-13 משנת 1891, Rerum Novarum, שביום השנה ה-135 שלה נחתם מסמך זה. היא מופנית לא רק לקתולים אלא במפורש ל"כל אנשים בעלי רצון טוב", וזה ההיתר לקרוא אותה, כפי שמאמר זה עושה, כטיעון אתי חילוני ולא רק דתי.

מדוע שמישהו בתעשיית הטכנולוגיה ייאכפת מה אנציקליקה אפיפיורית אומרת על AI?

משום שזו אחת המסגרות האתיות הקוהרנטיות והעמידות מוסדית ביותר שמישהו הפיק עבור טכנולוגיה זו, ומשום שטענותיה המרכזיות נכונות בתנאיהן שלהן. "טכנולוגיה אינה ניטרלית לעולם" היא תצפית תכנון שכל תחום בטיחות הבינה המלאכותית מאשר באופן משתמע. האזהרה לגבי ריכוז כוח בידי שחקנים פרטיים חוצי-לאומיים היא תיאור מדויק של נוף 2026 ש-EU AI Act ו-DORA מנסים לטפל בו באופן עצמאי. אינך חייב לחלוק את התיאולוגיה כדי למצוא שהניתוח שימושי — ומחברי האנציקליקה מזמינים במפורש בדיוק קריאה מסוג זה.

האם השוואת AI לרכבת, למכונית, לאנרגיה הגרעינית ולאינטרנט אינה דרך למזער את הסיכון?

ההיפך, למעשה. הדפוס ההיסטורי מראה שהחרדה המוסרית שליוותה כל טכנולוגיה טרנספורמטיבית נשאה אות אמיתי — היא סימנה את הפער בין מה שהטכנולוגיה יכלה לעשות לבין מה שהממשל שלנו היה מוכן לו. בחלק מהמקרים (הרכבת) הפחדים המילוליים היו שטות אבל האינסטינקט שהשיבוש מתקרב היה צודק. באחרים (גרעין, ובוודאות גם האינטרנט) החרדה הייתה מצומצמת מדי, ושילמנו על דחייתה. הלקח אינו ש-AI אינה מזיקה משום ששרדנו את האחרים. הוא ששרדנו את האחרים בלקיחת החרדה ברצינות ובסגירה מכוונת של פער הממשל — ושעלינו לעשות זאת מהר יותר הפעם.

איך זה מתחבר למאמר הקודם שלך על Lucy?

ביקורת האנציקליקה על טרנס-הומניזם — ההתייחסות למגבלות אנושיות כאל פגמים שיש לאופטם החוצה — היא אותה ביקורת שהמאמר על Lucy העלה לגבי פנטזיית הסרט של תודעה המהגרת מבשר אל מכונה. שניהם מגיעים למסקנה שאדם הוא יותר ממידע שניתן לחילוץ, ושהמגבלות שאנו מתפתים להנדס החוצה הן חלק גדול מהמקום שבו המשמעות באמת חיה. קריאה של מבקר קולנוע ואנציקליקה אפיפיורית המגיעות לאותה מסקנה בדרכים שונות היא סימן שהתובנה איתנה ולא מקומית.

היכן האנציקליקה ו-EU AI Act באמת מסכימים?

על ריכוז הכוח. תצפית האנציקליקה ש"מניעי הפיתוח העיקריים של טכנולוגיה זו הם כעת גורמים פרטיים, לעתים קרובות חוצי-לאומיים, שמשאביהם ויכולתם להתערב עולים על אלו של ממשלות רבות" היא, כמעט מילה במילה, החרדה המבנית שביסוד חובות הסיכון הגבוה של EU AI Act, הוראות סיכון הריכוז של צדדים שלישיים ב-DORA, ותנועת הענן הריבוני המעצבת מחדש כעת את רכש התשתית הפיננסית. האנציקליקה מגיעה למסקנתה דרך דוקטרינה חברתית; הרגולציה מגיעה אליה דרך הערכות התאמה. האבחנה זהה.

אז האם המסר הכולל אופטימי או פסימי לגבי AI?

אופטימי, אך לא בנאיביות. הטיעון הוא שעתיד ה-AI והמחשוב הקוונטי אינו נקבע מראש — הוא נבנה, ממש עכשיו, על-ידי בחירות אנושיות — ושההיסטוריה מראה שאנחנו מסוגלים לשמר את הטוב של טכנולוגיה חזקה בעודנו מפחיתים את נזקה, בתנאי שניקח אחריות על צורתה במקום להתייחס אליה ככוח אוטונומי. פחד מתייחס ל-AI כאל מזג אוויר. תקווה מתייחסת אליה כאל ארכיטקטורה. הקריאה הכנה של שניהם — האנציקליקה וההנדסה — היא שהיא ארכיטקטורה, ושהאנשים הבונים אותה יכולים לבחור לבנותה היטב. זוהי מסקנה מלאת תקווה באמת, והיא מורווחת ולא משאלה.

הפניות #

נבדק לאחרונה .

נסקר לאחרונה .