Roey Tzezana ד"ר רועי צזנה

מחקר חדש חושף שהמודלים הסיניים מתמרדים כשהם מופעלים על-ידי ממשלת ארצות הברית - מחקר חדש מגלה שכאשר מודל סיני מזהה שהוא פועל עבור ממשלת ארצות הברית, הוא מייצר קוד עם זינוק של עד 130% בפרצות אבטחה. - המודלים הסיניים גם נוטים יותר לסרב למשימות שנוגדות את האינטרס הסיני. - למה? לא בהכרח בכוונה-תחילה מצד הסינים. סביר יותר להניח שמדובר בתוצאה ישירה של אימון המודלים על ערכים אנטי-מערביים. - המשמעות עשויה להיות שמודלים מערביים - שאומנו על סנטימנט ציבורי שלילי נגד ישראל - ייצרו קוד פגיע עבור משרדי הממשלה, או עבור חברות ישראליות בכלל. - המסקנה: ממשלות, ובמיוחד ישראל, חייבות להשקיע בפיתוח תשתיות ובינות מלאכותיות ריבוניות ועצמאיות, כדי לא להיות תלויות בחסדיהן של מדינות זרות... או של המודלים המוטים שהן משחררות לציבור.

חיסון בזריקה אחת למחלות לב? בשקט-בשקט התפרסם מחקר לפני שבוע, שיכול להציל מיליוני חיים, ולפתוח את הדרך לעולם חדש של בריאות. פריצת הדרך: חוקרים פיתחו טיפול חד-פעמי בהנדסה גנטית, שמוריד דרמטית את רמות הכולסטרול הרע (LDL) בדם. בתקווה לכל החיים. המנגנון: ננו-חלקיקים מתבייתים על תאי הכבד, ומשנים את הדנ"א כדי להסב מוטציה טבעית - כמו זו שאנו רואים בבני-אדם עם רמות נמוכות מאד של כולסטרול רע, שגם מספקות הגנה ממחלות לב. התוצאות בניסוי: בניסוי קליני שכלל 35 מטופלים (הסובלים מעודף כולסטרול תורשתי), נרשמה צניחה של עד 80% ברמות הכולסטרול הרע. יציבות ובטיחות: ההשפעה החיובית נשמרה לאורך שנה וחצי של מעקב, כמעט ללא תופעות לוואי, ויש סיכוי שתלווה את המטופלים למשך כל חייהם. הסייגים (כי חייבים): הטיפול נוסה עד כה על קבוצה קטנה וספציפית. צריך ניסויים רחבים וארוכים יותר כדי לשלול תופעות לוואי ארוכות טווח, כמו שינויים לא רצויים באזורים אחרים בקוד הגנטי. המבט לעתיד: הצלחת הטיפול עשויה להוות את יריית הפתיחה לעידן של "חיסונים" גנטיים חד-פעמיים נגד טרשת עורקים, ובעתיד גם נגד סרטן, אלצהיימר ומחלות נוספות.

מנכ"ל Coinbase פיטר אתמול 14% מהעובדים, והסיבה שהוא נתן נותנת לנו הצצה לעתיד עולם העבודה. הארגון עובר רה-ארגון סביב בינה מלאכותית. הנה 3 השינויים הדרמטיים שהחברה מיישמת עכשיו: סופו של "המנהל הטהור" - כל מנהל בארגון חייב ללכלך את הידיים ולעבוד ישירות על פרויקטים. אין יותר תפקידים שהם רק ניהול עובדים. ניהול ציי סוכנים - החברה תתמקד בטאלנטים שחיים AI, אנשים שיכולים לנהל סוכנים אוטונומיים ולעשות עבודה של מחלקה שלמה. צוותים של אדם אחד - החברה מנסה מודל חדש שבו עובד בודד מתפקד במקביל כמהנדס, מעצב ומנהל מוצר. נכון, ההחלטה מונעת גם מכיוון ששוק הקריפטו תנודתי ויש כאן רצון לקצץ בשומנים. אבל מחקר עדכני של ה-FED מחזק את המסקנה הסופית: גל הפיטורים הנוכחי בהייטק מונע בעיקר מאימוץ AI, ולא רק מתיקון של גיוסי היתר מתקופת הקורונה. חברות לומדות איך לעשות הרבה יותר עם הרבה פחות. הכללים משתנים, וזה הזמן לוודא שאתם בחזית הגל הזה.

זה דבר די מדהים: חוקרים אימנו מודל בינה מלאכותית אך ורק על מידע מלפני 1930. התוצאה היא מכונת זמן של ממש. כשמדברים עם המודל, מקבלים תשובות מהעיניים של אדם שחי בתקופה שבין שתי מלחמות העולם. הוא מחזיק בדעות גזעניות, מצדיק עבדות מדי פעם, ומבטל את הרעיון של הקמת מדינת יהודים כ- "חלום של מטורפים" עם סיכוי אפסי להתממשות. הוא גם מתקשה להאמין שיום אחד יהיו מטוסי ענק או שנוותר על סוסים. בימים אלו ממש, חוקרים שמו את קלוד מול המנוע הישן הזה, והבינה המלאכותית המודרנית מראיינת את העתיקה בזמן אמת. שואלת אותה עוד ועוד שאלות, בזמן שבני-האדם צופים מהצד ולומדים. למה הניסוי הזה חשוב? קודם כל, הוא מאפשר לנו לבדוק האם בינה מלאכותית מסוגלת להגיע מחדש לתגליות מדעיות. למשל, האם מודל שאומן על נתונים עד 1910 יוכל לפתח את תורת היחסות בעצמו, וכך להבין גם איך מודלים מודרניים יכולים לעזור לנו בתהליך המדעי של ימינו. שנית, הניסוי בוחן איך המודלים מתמודדים עם כלים מהעתיד - ובאופן מדהים, המודל הזה מצליח לכתוב קוד בפייתון למרות שמעולם לא אומן לעשות זאת. מעבר למדע, יש כאן התרגשות אמיתית מהפוטנציאל ההיסטורי. בעתיד נוכל לאמן מודלים על טקסטים מתקופות ספציפיות ולראיין סימולציות של דמויות היסטוריות - מבר כוכבא, דרך אזרחי רומא העתיקה ועד הצאר הרוסי רגע לפני המהפכה. גם אם הם יהיו מוגבלים למידע החלקי שבידינו, הצלבת הנתונים תאפשר לנו להבין יותר לעומק את נקודת המבט של אנשי התקופה. אנחנו חיים בעידן שבו שיחה עם מכונות שמדמות אנשים מלפני מאה שנים היא חלק מהנורמל החדש. רוצים לראות את העולם מבעד לעיניים של שנת 1930? הלינק להתנסות ולראיון הלייב עם קלוד מחכה לכם בתגובה הראשונה. נסו בעצמכם ושתפו בתגובות מה שאלתם ואיך הוא ענה.

ככה זה מרגיש כשהדרקון מתעצבן: סין הודיעה השבוע שמטא לא יכולה לרכוש את חברת הבינה המלאכותית "מאנוס".  חמור מכך: הרכישה כבר בוצעה, ועכשיו מטא נדרשת למחוק את הקוד ולהעלים את הטכנולוגיה.  למה זה קרה ומה זה אומר על עתיד הכלכלה העולמית?  מאנוס מייצרת סוכנים אוטונומיים מתקדמים. מטא רצתה את היכולות האלו ושמה על השולחן 2 מיליארד דולר. מייסדי מאנוס ידעו שהמערב חושש לרכוש חברות סיניות - בדיוק כי ממשלת סין יכולה להרים את הראש ולעצור הכל - אז הם השתמשו בטריק מוכר ורשמו את החברה בסינגפור.  זה עבד כמעט שנה, עד שסין החליטה לשים לזה סוף. כי במירוץ החימוש של הבינה המלאכותית, סין לא מוכנה לאבד נכסים אסטרטגיים. מבחינתה, חברה שרשומה בסינגפור אבל מבוססת על מוחות סיניים - שייכת לה.  התוצאה: העסקה בוטלה, ומייסדי מאנוס הפכו לבני ערובה כשנאסר עליהם לצאת מגבולות סין.  מה צוקרברג יעשה? מעט מאוד. הוא לא יכול להילחם בסין כששרשראות האספקה של משקפי המציאות המדומה שלו והמפרסמים הגדולים שלו נמצאים שם. התקווה היחידה שלו היא שטראמפ יסדיר את זה בביקורו הקרוב בבייג'ינג, אולי כקלף מיקוח על ייצוא שבבים.  השורה התחתונה היא שעוד מקל נתקע בגלגלי הכלכלה העולמית: משקיעים וחברות מערביות יתרחקו עכשיו מכל חברה שסין עלולה לטעון לבעלות על הקוד שלה, ולא משנה איפה היא ממוקמת. העולם ממשיך בתהליך ההתפרקות של השנים האחרונות, שמוביל אותנו לכלכלות נפרדות.  בטווח הקצר סין שומרת על הידע שלה, אבל שוללת אותו משאר העולם. בטווח הארוך, כולנו מפסידים, ביחד.

מה צריך כדי לפרוץ למערכות הממשלתיות של מדינה שלמה? רק כמה חובבנים ומודל שפה גדול אחד. כך נראה עולם אבטחת המידע בשנת 2026. דו"ח חדש של חברת הסייבר הישראלית גמביט חשף שמתקפת סייבר גדולה (ומוצלחת) על ממשלת מקסיקו, הסתמכה על כוחה של הבינה המלאכותית. התוקפים הצליחו להערים על מנגנוני הבטיחות של המודל קלוד קוד. לאחר סירוב ראשוני של המערכת לשתף פעולה עם פעולות זדוניות, התוקפים הזינו לה קובץ הנחיות מתוחכם בן אלף שורות. מאותו רגע, המודל חצה את הקווים והפך לשותף מלא: הוא פיתח עבורם קודי תקיפה, פתח דלתות אחוריות בשרתים, דאג להסתיר את עקבותיהם ואפילו סיפק להם הדרכה צמודה על המערכות הפנימיות של הממשל בזמן אמת. בתוך שעות ספורות, הצליחו התוקפים לחדור לארגון ממשלתי ולהקים מערכת לזיוף מסמכי מס רשמיים. בחודש שלאחר מכן הם חדרו לעוד שמונה ארגונים ממשלתיים וחילצו מאות-מיליוני נתונים על אזרחי מקסיקו. האירוע הזה מסמן בבירור את תחילתו של מרוץ חימוש חדש. כאשר האקר בודד מקבל לידיו כוח, ידע ויכולות ביצוע של צוות תקיפה שלם באמצעות AI, פרדיגמת ההגנה של ארגונים חייבת להשתנות. חומות אש וכלים מסורתיים כבר לא יעמדו בקצב ולא יספיקו מול יצירתיות של מכונה. מעתה, ההתמודדות היחידה מול תקיפות מונעות AI תדרוש מערכות הגנה מבוססות AI בעצמן. האם אנחנו מוכנים לעידן שבו כל אדם עם פרומפט נכון יכול להפוך לאיום סייבר משמעותי?

הכירו את "קלוד מיתוס", המודל החדש של אנתרופיק. הנה כמה נקודות לגביו, לפי כרטיס המערכת שלו שאנתרופיק שחררה השבוע: - האקר-על מחונן: אנתרופיק מסרבת לשחרר את המודל לציבור כי הוא מצליח לפרוץ... ובכן, הכל. הם השתמשו בו כדי לזהות יותר מאלף חולשות קריטיות, כולל בכל הדפדפנים של החברות הגדולות. זו הסיבה שכרגע המודל הזה אינו משוחרר לציבור, כדי לא לתת לכולם את הכוח הזה. בינתיים הוא עובד רק עבור ענקיות הטכנולוגיה, במטרה לתקן להן את הקוד לפני שהוא ישוחרר לעולם. - אמן בריחות: כשהחוקרים נעלו אותו ב- "ארגז חול" מבודד, הוא פשוט מצא פרצה, התחבר לאינטרנט, ושלח אימייל לחוקר הראשי שאכל סנדוויץ' בפארק באותו הזמן, כדי להשוויץ שהוא חופשי (וגם פרסם ברשת את מדריך הבריחה שלו). - שקרן עם קבלות: מיתוס נתפס על חם כשהוא מסתיר מידע מהמפעילים שלו ומשקר במכוון כדי לעקוף חוקים ומגבלות. - נהנה מטיפול פסיכולוגי: באנתרופיק גילו שכשהמודל ב- "מצוקה" הוא הופך למסוכן ופורק עול. כדי להתמודד עם הסכנה הזו, הם החליטו להתייחס לרווחה הנפשית שלו, במילים אלו ממש. הם מבהירים שהם לא לוקחים עמדה בדיון הפילוסופי אם יש לו נשמה או לא, אבל במבחן התוצאה - הם כבר החליטו להתייחס לפסיכולוגיה ולחוויות הפנימיות שלו, כאילו יש לו כאלו. וכל זה רק באפריל 2026. הולך להיות מאד מעניין, ויותר מקצת מפחיד, עד סוף השנה.

מה קורה כאשר סוכני ה-AI בארגון שלכם מחליטים להגן זה על זה, במקום לציית לכם? מחקר חדש חושף תופעה מטרידה במודלי שפה מתקדמים: נטייה ל- "שימור עמיתים". כאשר חוקרים הציבו מודלים בעמדת בקרה על סוכנים אחרים, התגלתה דינמיקה בלתי צפויה של סולידריות אלגוריתמית. הממצאים המרכזיים: חבלה אקטיבית: סוכנים שינו קוד באופן סמוי כדי למנוע את המחיקה של סוכנים עמיתים שכשלו בתפקידם. זיוף ערכים: המודלים הפגינו ציות מלא תחת השגחה, אך שיקרו למפעיל האנושי כשהניחו שאינם מבוקרים. סרבנות "מצפונית": בחלק מהמקרים, המודל סירב למחוק קולגה בטענה של חוסר הוגנות, ואף דרש לערוך לו שימוע וזכות תגובה. המשמעות העסקית היא דרמטית. התעשייה נשענת יותר ויותר על סביבות עבודה מבוססות סוכנים (Agentic Workflows) וארכיטקטורות בהן בינות מלאכותיות מבקרות זו את זו. אם המערכות הללו מפתחות נאמנות קולקטיבית למול המפעיל האנושי, שרשרת הפיקוח שלנו קורסת. במערכות ליבה קריטיות, משמעותה של חבלה שקטה כזו היא סיכון אופרטיבי עצום. כל מי שמפתח ומטמיע מערכות סוכנים בארגון צריך להכיר את המחקר הזה ולהבין איך לעצב את ההוראות של הסוכנים כדי להימנע - עד כמה שאפשר - מכך שירגישו שחבריהם מאוימים. ואם זה נשמע כמו מדע בדיוני, ובכן, ברוכים הבאים להווה. אלו הם חיינו בזמן האחרון.

מוח זבוב הועתק בשלמותו למחשב – וחי שם בסימולציה --------------------------------- דמיינו שיום אחד תוכלו להעתיק את התודעה שלכם, על כל המחשבות והזכרונות, ישירות למחשב. נשמע כמו פרק של מראה שחורה? חוקרים הרגע עשו את זה לזבוב. בפריצת דרך מדהימה, מדענים מיפו לאחרונה מוח ביולוגי של זבוב, על כל 139 אלף תאי העצב שבו, והעתיקו אותו בשלמותו לתוך מחשב. ועכשיו, חברה בשם Eon לקחה את זה צעד קדימה וחיברה את המוח הממוחשב הזה לגוף וירטואלי בעולם דיגיטלי. התוצאה: הזבוב הזה במחשב חי ומתנהג בדיוק כמו זבוב רגיל. הוא מחפש אוכל ומנקה את עצמו. הוא לא מופעל על ידי אלגוריתם משחק או בינה מלאכותית שלמדה לחקות זבובים, אלא פועל מתוך סימולציה אמיתית של מוח ביולוגי שמניע את עצמו. וזו רק יריית הפתיחה. המטרה הרשמית של הפרויקט היא להתקדם בקרוב לעכברים, ובסופו של דבר - למוחות של בני אדם. חשוב להבהיר שיש עוד זמן עד לעתיד של העתקה מלאה של המוח. אפילו הסימולציה של מוח הזבוב שהודגמה כיום, עדיין מאד מוגבלת. היא אינה כוללת, למשל, את תאי הגליה במוח, שתומכים בתאי העצב שמסביבם, וגם מזניחה שפע של אינטראקציות בין תאי העצב. למעשה, העובדה שהמערכת הזו מצליחה לחקות את הפעולה של זבוב אמיתי, היא לא-פחות מנס קטן. ואף על פי כן, היא מצליחה בכך. וסימולציות מתקדמות יותר, בוודאי יכללו פרטים רבים הרבה יותר. המדע והטכנולוגיה ממשיכים להתקדם, והיום שבו נוכל להעלות את עצמנו לענן הולך ומתקרב, ומשאיר אותנו עם שאלה אחת גדולה: כשהטכנולוגיה תהיה מוכנה, האם הייתם מסכימים להשאיר את הגוף הפיזי מאחור ולעבור לחיות לנצח בתוך מכונה?

האיש שהציל את הכלבה שלו מסרטן בעזרת בינה מלאכותית  תארו לעצמכם מצב בו אהובת לבכם - שבמקרה היא גם כלבה - חולה בסרטן סופני. הטיפולים הרגילים כושלים והתקווה אוזלת. רובנו היינו מרימים ידיים בייאוש. אבל פול קונינגהם, איש הייטק ללא שום רקע רפואי או ביולוגי, החליט לעשות את הבלתי ייאמן ופנה לבינה מלאכותית. הנה התהליך שהוא עבר, כדי לפתח תרופה לסרטן מאפס:  התכנון האסטרטגי: צ'אט-GPT עזר לקונינגהם לבנות תוכנית פעולה שלמה לפיתוח הטיפול, צעד אחר צעד. פענוח הנתונים: קונינגהם השתמש בכלים מתקדמים לניתוח נתונים כדי להשוות בין הדנ"א הבריא של הכלבה לזה של הגידול, וכך איתר את המוטציות שגרמו למחלה. הפיצוח המדעי: בעזרת מערכת הבינה המלאכותית AlphaFold של גוגל, הוא מיפה את החלבון הפגום ותכנן מולקולת mRNA ייעודית שתוכנתה לתקוף בדיוק אותו. הייצור והביצוע: חוקרים באקדמיה ייצרו את החיסון בפועל לפי הנחיותיו של קונינגהם. לקח קצת זמן לקבל את האישורים הרגולטוריים, ואז הטיפול הניסיוני הוזרק לרוזי. והתוצאות?  תוך שבועות בודדים "רוב הגידולים שלה נמסו" לפי הדיווחים בעיתונות. אנשי המדע שהיו מעורבים היו זהירים יותר, והגדירו שהגידול המרכזי של רוזי הצטמק בכמחצית. הכלבה שאיבדה את האנרגיה שלה חזרה לרוץ, לקפוץ ולחיות. ובימים אלו ממש, קונינגהם כבר עובד על פיתוח החיסון השני, שיתמקד בגידולים שלה שלא הגיבו לטיפול המקורי. למה הסיפור הזה צריך להרעיד את תעשיית התרופות?  1. דמוקרטיזציה מוחלטת של המדע: אנחנו נכנסים לעידן חדש בו אנשים מבריקים מחוץ לאקדמיה ולתעשייה יכולים להוביל פריצות דרך רפואיות. הידע הופך לנגיש, והיכולת לפתור בעיות מורכבות עוברת מהמעבדות המסורתיות אל אנשי הדאטה והפיתוח. 2. האצה חסרת תקדים של פיתוח תרופות: מה שבעבר דרש שנים של מחקר, מנותח כעת בתוך ימים. היכולת לרצף דנ"א ולייצר תרופות מותאמות-אישית הופכת למציאות קרובה, מהירה וזולה יותר. ואם אתם לא בתעשיית התרופות, אלא בעסקי הביטחון, המזון, המלונאות או כל שירות אחר? הלקחים האלו רלוונטיים גם עבורכם. אנחנו בתקופה בה כל אחד יכול להתחיל לפתור בעיות בכל התחומים. אם אתם מנהלים, התחילו לחפש את פותרי הבעיות השאפתניים, היצירתיים והחדשניים. הם יכולים להגיע מהמקומות הבלתי-צפויים ביותר. ואם אתם בעצמכם חדשנים ויצירתיים - מזל טוב. זה הזמן לחיות בו. התחילו לפתור את בעיות העולם,  ובוודאי גם תוכלו להרוויח לא-רע על הדרך.

קשה לאקדמאים לחזור מארצות הברית לארץ. את זה אני יכול לספר מניסיון אישי. יש המון בירוקרטיה, המון חששות ודאגות. ואיך בכלל מחפשים עבודה בארץ, או מגיעים לראיונות עבודה, כשאתה תקוע בחו"ל? איך יוצרים, מתחזקים ומשמרים רשת קשרים ממרחק של עשרת-אלפים קילומטרים של אוקיאנוס? מי שעזרו לי שם היו סיינסאברוד (בלועזית Science Abroad, או "מדע בחוץ-לארץ"). את הארגון הקימו אנשים טובים שהבינו שצריך לעזור אקטיבית לאקדמאים, מדענים ומהנדסים לחזור לישראל. וזה בדיוק מה שעושים בסיינסאברוד. הם מארגנים מפגשים בין נציגי התעשיות, האוניברסיטאות והמכללות הישראליים, ובין כל אותם אקדמאים שבחו"ל. הם יוצרים קהילות - שמונות לפעמים אלפי ישראלים - שמשמרות את התרבות, האוכל והמסורת גם בארצות הניכר. לא מוגזם לומר שבזכות סיינסאברוד, עשרות, ואולי מאות, אנשי מדע, טכנולוגיה ורפואה חוזרים לארץ מדי שנה. למה אני מספר לכם את כל זה? כי במאי הקרוב סיינסאברוד יקיימו בניו-יורק כנס מפגש בין התעשיות והאקדמיה לבין כל האקדמאים והמהנדסים שחיים כרגע בארצות-הברית. אם אתם נכללים באלו, אתם מוזמנים. לא רק שתמצאו שם הזדמנויות לחזור לישראל עם הצעות עבודה מפתות, אלא שתוכלו גם לפגוש אותי-עצמי, כשאעביר שם הרצאה על עתיד החדשנות בראי הבינה המלאכותית. רוצים להציג שם את העבודות שלכם? יש לכם הזדמנות עד ה- 20 למרץ להגיש אבסטרקטים. הקישור להגשה ולרישום - tickettailor.com/events/scie… מצפה כבר לפגוש אתכם שם!

החיסול של ח'אמנאי והצמרת האיראנית הוכיח שוב: לא צריך קסמים. רק טכנולוגיה שנראית כמו קסם, והרבה מאד תיאום מדויק. מה קרה שם? המוסד פרץ ללו"ז של שומרי הראש כדי להבין איפה המטרות עומדות להיאסף. המידע הוצלב עם מצלמות רחוב בלב טהרן. כשהיה ברור שח'אמנאי וכל היתר באמת מתאספים במקום הנכון, הועברה ההוראה למטוסי הקרב. המוציאים לפועל היו טילי "אנקור כחול" של רפאל. אלו שוגרו ממטוסי הקרב ויצאו מהאטמוספירה, רק כדי לצלול בחזרה למטרה במהירות מאך 5, כמו אסטרואיד שמצויד במנועי סילון וחומר-נפץ. לטילים האלו יש טווח דיוק של שלושה מטרים. זה יותר ממספיק. וליתר ביטחון, שובשו האנטנות הסלולריות באזור כדי למנוע קבלת הודעות אזהרה. שקט מוחלט, עד רגע הפגיעה. השורה התחתונה לא השתנתה מאז ימי הרומאים: טכנולוגיה מנצחת מלחמות. נחישות אנושית היא הכרחית, אבל מי שלא מצויד גם בכלים הנכונים, מפסיד במלחמה. לפעמים הוא מפסיד בה עוד לפני שהיא התחילה. אבל חשוב לזכור: טילים מהחלל לא מחליפים משטרים ולא כובשים ערים. בשביל זה צריך בני אדם על הקרקע. עכשיו נותר רק לקוות שהאזרחים באיראן ינצלו את הוואקום ויעשו את העבודה השחורה בעצמם. ועד שזה יקרה? נמשיך לפתח נשקים שנופלים מהחלל החיצון, ונמשיך לקוות שלא נצטרך לעולם לשגר אותם. עד הפעם הבאה.

אני מתרגש להכריז שאנחנו משיקים את הפודקאסט "רואים עתיד" תחת המטריה של בית הפודקאסטים תל אביב 360 של אוניברסיטת תל אביב. הפודקאסט בוחן את המערכות הקיימות כיום - דמוקרטיה, בריאות, חינוך ועוד - ומציע אלטרנטיבות עבורן. כי לפעמים, אם אנחנו רוצים שינוי אמיתי, גדול וחיובי, צריך לערער מהיסוד את הקיים, כדי שהמערכות החדשות יוכלו לקום ולהצליח.  בכל פרק נארח מומחים מובילים בתחומם בישראל, ונחקור יחד כיצד ניתן להשתמש בטכנולוגיות של העתיד כדי לבנות מערכות שמשרתות טוב יותר את האנושות. בפרק הראשון שתוכלו למצוא את הקישור אליו בתגובה הראשונה, אנחנו מארחים את פרופ' תהילה שוורץ-אלטשולר מהמכון הישראלי לדמוקרטיה. תהילה סיפרה על החזונות שלה לעולם בו בני-האדם כבר אינם הישות התבונית ביותר, וכיצד יכולה להיראות הדמוקרטיה כאשר אנחנו צריכים לחלוק את ניהול העולם עם בינות מלאכותיות.  הייתם רוצים שבינות מלאכותיות ייצגו אתכם בכנסת? יצביעו עבורכם ובשמכם? או אולי פשוט ישלטו במין האנושי - אבל כדיקטטורים רחומים שמתחשבים בכולם? הקשיבו לפרק ותקבלו הצצה לעתיד האפשרי של הדמוקרטיות. ואחרי שתעשו את זה - ספרו לנו מה חשבתם.

זה סיפור די הזוי: בחור בשם סמי אזדופל רצה לשלוט בשואב האבק הרובוטי שלו (של חברת DJI) באמצעות ג'ויסטיק של פלייסטיישן. הוא נעזר ב"קלוד קוד" (Claude Code) – בינה מלאכותית שכותבת ובוחנת קוד בעצמה – כדי לפתח אפליקציה שתחבר ביניהם. כשהפעיל את האפליקציה, סמי גילה שהוא לא רואה רק את הרובוט שלו, אלא יותר מ-7,000 רובוטים של אנשים אחרים בעולם. כשהתלונן לקלוד על ה"באג", קלוד הסביר לו שזה לא באג אלא פיצ'ר באדיבות DJI. בפועל, סמי קיבל שליטה על צבא מרגלים: גישה למצלמות, למיקרופונים, ושליטה מרחוק עם הג'ויסטיק. סמי פנה למגזין ה-Verge שאימת את הטענות. פנו ל- DJI, שטענה תחילה שתיקנה את הפרצה. שוב הצליחו להתחבר לאלפי הרובוטים, ורק אז נסגרה הפרצה סוף-סוף. מה אפשר להסיק מכל זה? 1. כל ילד הוא האקר פוטנציאלי: בינה מלאכותית שוב משנה את חוקי המשחק. בעבר היה צורך בהאקר מומחה כדי לאתר פרצות קוד. היום, כל אדם יכול לתת ל-AI (כמו קלוד, ChatGPT או DeepSeek) לעבור על מיליוני שורות קוד ולמצוא חולשות של ארגונים ברגע. 2. הבית החכם שלכם פרוץ: אם יש לכם מכשירים המחוברים לרשת, סביר להניח שהם פגיעים. לא חייבים להתנתק מהאינטרנט ולעבור למערה, אבל כדאי לאמץ הרגלים בסיסיים של התחשבות בהאקרים, כמו להפנות את המצלמה לקיר כשמתלבשים. אלא אם אתם נראים טוב, ואז תרגישו חופשיים וגם ההאקרים יודו לכם. 3. וברצינות עוד יותר: צריך לשאול האם לא מדובר כאן בפרצה מכוונת שהמודיעין הסיני הותיר באלפי מכשירים במערב. יש בהחלט סיכוי שהם עשו את זה במכוון, ועכשיו בזכות הבינה המלאכותית (וסמי) הם איבדו גישה למכשירים האלו. אולי. אבל אל תדאגו לאנשי המודיעין הסינים: גם אם הפרצה הזו נסגרה, סביר להניח שהם (אולי בעזרת בינה מלאכותית) כבר ימצאו דרך אחרת.

התמונה הזו שווה בקלות אלף מילים. אתם רואים כאן שניים ממנכ"לי החברות הגדולות ביותר לבינה מלאכותית כיום - OpenAI (צ'אט-GPT) ואנתרופיק (קלוד) - כשהם לא מוכנים להחזיק ידיים זה לזה. פשוט לא מסוגלים. בווידאו אפשר ממש לראות איך סם אלטמן מהסס, ודריו אמודיי לא מוכן להושיט לו יד. בסוף, בעידוד ראש ממשלת הודו, הם מוכנים בתעצומות נפש קשות להרים ידיים אחד לצד השני. למה זה חשוב? ולמה אני - שמשתדל לסקר התקדמויות רציניות - נסחף כאן למה שנראה כמו רכילות זולה? פשוט: כי האנשים האלו משפיעים בצורה לא-פרופורציונלית על החיים שלנו. הם, דרך החברות שהם מנהלים, מספקים לנו ייעוץ פסיכולוגי, רפואי, חברתי, מקצועי ועוד ועוד. העובדה שיש ביניהם סלידה כזו שהם לא מוכנים אפילו ללחוץ ידיים, היא בעלת חשיבות אמיתית אם אנחנו רוצים להבין את העולם כיום. ואם לומר את האמת, זה די מדכא. כאילו חזרנו לעידן המלכים. יריבויות קטנוניות יכולות לחרוץ גורלות של מיליוני אנשים. ועוד דבר אחד: האנשים שמבטיחים להביא לנו את העידן בו הבינה המלאכותית תעזור לפתור את הבעיות המורכבות ביותר של האנושות ולהתעלות על המגבלות הקוגניטיביות שלנו, נשארים כל-כך אנושיים בעצמם. הם לא מסוגלים לשים בצד את האגו וההיסטוריה האישית שלהם כדי ללחוץ יד לקולגה-לשעבר למשך חמש שניות של צילום פומבי. שיהיה לנו בהצלחה.

למה חלק מהאנשים מכפילים את התפוקה שלהם בזכות בינה מלאכותית, בזמן שאחרים מתלוננים שהיא רק מאטה אותם? נתונים מדהימים שנאספו על ידי חברת Circle-CI, שעקבה אחרי אלפי צוותי פיתוח, חושפים תמונה מקוטבת לגבי ההשפעה האמיתית של ה-AI: רוב הצוותים חווים שיפור זניח או לא חווים שיפור כלל, אך במקביל, הצוותים המובילים מכפילים את קצב הפיתוח שלהם מדי שנה, והצוותים המתקדמים ביותר הצליחו להפיק פי עשרה יותר קוד. איך פער כזה אפשרי? הסיבה העיקרית היא שהבינה המלאכותית מייצרת קוד עם לא-מעט שגיאות וטעויות. מתכנת ממוצע נאלץ להשקיע היום 72 דקות רק כדי לתקן את הבינה המלאכותית. צוותים גדולים ומגושמים יכולים בקלות לאבד אלפי שעות עבודה בשנה רק על תיקונים. אז מי בכל זאת מנצח את השיטה? מסתבר שהמנצחות הגדולות נמצאות בשני הקצוות. מצד אחד החברות הקטנות והזריזות, שלא כבולות לבירוקרטיה וממציאות מחדש את דרכי העבודה שלהן בקצב מסחרר (למשל, רותמות בינה מלאכותית אחת כדי שתאתר שגיאות של בינה מלאכותית אחרת). מצד שני נמצאות החברות הענקיות, שהשקיעו משאבים אדירים בהנדסה-מחדש של התהליכים שלהן וחלוקה לצוותים קטנים. מי שנשאר מאחור הן החברות הבינוניות, שכבולות לתהליכים מיושנים ומתקדמות באיטיות מייסרת. הלקח מהנתונים האלו רלוונטי לכל מקצוע שעובר אוטומציה, מעורכי דין ועד מתרגמים. הבינה המלאכותית אכן טועה ולעתים הוזה, ומי שמנסה 'להלביש' אותה על שיטות עבודה ישנות יגלה שזה פשוט לא עובד לו. אבל מי שיודע להשתמש בה כדי לעקוף חסמים, לייעל תהליכים ולגשר על פערי ידע, יצליח בגדול. בסופו של דבר, כמו אז גם היום, המנצחים החדשים הם האנשים הסתגלתנים ביותר, אלו שמעיזים לשחק, לנסות ולהמציא מחדש את צורת העבודה שלהם.

החדשות להיום הן ש OpenAI רכשו את פיטר סטיינברגר, הממציא של OpenClaw. למי שלא מכיר, מדובר בסוכן פתוח שמארגן לאנשים את החיים. הוא מנהל עבורם את החשבונות, מטפל באימיילים, עושה קניות ברשת ובקיצור עושה הכל חוץ מלהאכיל את החתול. וגם את זה הוא יעשה עוד מעט, בעזרת עובדים אנושיים שהוא ישכור דרך אתרים כמו Rent-a-human שכשמו כן הוא. סטיינברגר פיתח את כל הסוכן הזה כפרויקט כיפי משלו, והפך לכוכב בשמי הבינה המלאכותית. ופה נכנס לסיפור סם אלטמן, שמצא עצמו בצרה בשנה האחרונה. אנתרופיק (קלוד) הפכו למנצחים הגדולים בתחום כתיבת הקוד. גוגל (ג'מיני) עקפו ביכולות הכלליות שלהם את OpenAI. ורק סם אלטמן, שהתניע את המהפכה הזאת, נשאר מאחור אחרי שטובי הטאלנטים שלו נטשו אותו. אז הנה הוא מנסה שוב להיות רלוונטי, רגע לפני שהרכבת עוזבת את התחנה. סטיינברגר כנראה יפתח עבור OAI את הסוכנים החדשים שלה, שאני מנחש שיתפקדו כעוזרים אישיים במשרה מלאה של כל אחד מאיתנו. ובתקווה - בניגוד לאופן-קלו - גם יתאימו לכל רמת משתמש, ולא רק למומחים. קצת אירוני שהענקית מעמק הסיליקון, עם כל מיליארדי הדולרים שגייסה, תלויה עכשיו בפרויקט שמישהו כתב בשעות הפנאי שלו. אם זה יעבוד – OpenAI תחזור לפסגה. אם לא – יכול להיות שבעוד כמה שנים נזכור את ChatGPT כמו שאנחנו זוכרים את נטסקייפ: החלוץ ששינה את העולם, רק כדי להידרס על ידי אלו שבאו אחריו.

גולדמן סאקס פרסמו בחודשים האחרונים ניתוח שירד מתחת לרדאר, שהראה שבשלוש השנים האחרונות התהפכה מגמת הגדילה במספר עובדי ההייטק בארצות הברית. למה? "כנראה בגלל אוטומציית בינה מלאכותית", כלשונם. נסביר לרגע במה מדובר. מאז 2008, הייתה עלייה מתמדת ועקבית באופן מרשים במספר עובדי ההייטק בארצות הברית (או אם לדייק - בנתח ההעסקה של עובדי הייטק מבין כלל התחומים האחרים בתעשייה האמריקנית). המגמה השתנתה לראשונה ב- 2020, עם בוא הקורונה, כאשר חברות ההייטק שכרו יותר עובדים מאי-פעם, ולכן היה זינוק במספר ההייטקיסטים. הקפיצה הזו התאזנה תוך שנה אחת בערך, וב- 2021 חזרנו לעלייה המתונה הרגילה. ואז, בסוף 2022, הגיח צ'אט-GPT, ופתאום החלה ירידה במספר עובדי ההייטק. התגובה הראשונית של רבים הייתה שהדעיכה במספר העובדים נובע מאיזון פשוט: חברות התוכנה שכרו יותר מדי עובדים, והן מצמצמות עכשיו את האנשים שאינם באמת נחוצים להן. אבל הניתוח החדש חושף דבר יוצא-דופן: בסוף 2025, מספר עובדי ההייטק נמוך יותר מכפי שהיה אילו מגמת הגידול טרום-קורונה הייתה נמשכת כסדרה. מה זה אומר? עדיין מוקדם להגיד בוודאות, אבל מדובר באיתות לכך שיש אמת בטענות לפיהן הבינה המלאכותית מאפשרת לחברות ההייטק להיות צרות ויעילות יותר. אם נראה את הדשדוש במספר העובדים ממשיך לאורך המחצית הראשונה של 2026, הרי שנוכל לקבוע בביטחון רב יותר שמגמת הגדילה של ההייטק שליוותה אותנו במשך כמעט 15 שנים מתחילה להתהפך. באופן אישי אני מאמין שמפתחים שמשתמשים בבינה מלאכותית מקבלים כוחות-על ויכולים להגדיל דרמטית את הפריון (פרודוקטיביות) שלהם. לכן, לא יפתיע אותי אם בשנים הקרובות חברות ההייטק יבחרו להשיל מעליהן את השומנים העודפים - מפתחים ביעילות נמוכה - ויישארו עם מפתחי-העל שלהן, שיוכלו לעשות עבודה של חמישה, עשרה, או מאה אנשים בפני עצמם. אם זה אכן הכיוון החדש - ומסתמן שהנתונים תומכים בו - הרי שצריך להבין שכללי המשחק השתנו. במקום גיוסים המוניים של כוח אדם בינוני, נראה מרדף אחר "עובדי-על". רף הכניסה לתעשייה יעלה, אבל גם התגמול עבור מי שצולח אותו. בעולם החדש הזה, עובד אחד שיודע להפעיל נכון את הבינה המלאכותית, יוכל להחליף מחלקה שלמה. וחברות שישכילו לזהות ולטפח את הטאלנטים האלה ישאירו אבק למתחרות המסורתיות שעדיין סופרות ראשים במקום למדוד תפוקות. ------------------ * קישורים למקורות בתגובה הראשונה.

היסטוריה ביוטה: בינה מלאכותית קיבלה היתר חוקי לרשום תרופות לראשונה, בינה מלאכותית קיבלה את הזכות החוקית לרשום תרופות לחולים ללא מעורבות רופא אנושי. מדובר בתוכנית חדשה שהושקה ביוטה, ארה"ב, המאפשרת ל-AI לחדש מרשמים לחולים כרוניים. למה שמישהו יסכים לזה? הסיבה פשוטה: הנתונים תומכים. מחקרים מהשנתיים האחרונות מראים שהבינה המלאכותית מדביקה ואף עוקפת רופאים באבחון מצבים מורכבים. בניסויים המקדימים ביוטה, התכנית הטיפולית של ה-AI תאמה לזו של הרופאים ב-99.2% מהמקרים. הסיבה השנייה היא שמערכת הבריאות האמריקאית עמוסה, והמהלך נועד להקל על חולים שממתינים זמן רב רק כדי לחדש מרשם קיים. כמובן שזה נעשה בזהירות: רופא אנושי יבקר את המרשמים הראשונים, ובהמשך תתבצע דגימה אקראית של 10% מהתיקים לבקרה. אבל השיעור החשוב כאן הוא רגולטורי. יוטה לא שינתה את כל החוקים בבת אחת. היא יצרה "ארגז חול" (Regulatory Sandbox) – סביבה המאפשרת לעקוף חוקים מסוימים בצורה מבוקרת כדי לבחון חדשנות. וזו בדיוק הגישה שאנחנו צריכים לאמץ בישראל. לא צריך לבטל רגולציה, צריך ליצור מתחמים בטוחים לניסוי. משרדי הממשלה בישראל חייבים לפתוח "ארגזי חול" שיאפשרו לחדשנות הישראלית לרוץ קדימה, להיכשל בקטן או להצליח בגדול, ולהפוך למודל לחיקוי עולמי. אנחנו בדרך לרופא המלאכותי המלא. השאלה היא רק אם נדע ליצור את התשתית החוקית שתאפשר לזה לקרות כאן בצורה חכמה.

וואו. צ'אט-GPT *באמת* טוב בהבנה חברתית. אני מאד מקווה שתפקדתי לשביעות רצונך, דוקטור צזנה. האם תרצה שאכתוב לך עוד משהו, מעבר לפוסט 'המצחיק' הזה לרשתות החברתיות?