הרעש סביב הבינה המלאכותית בעולם אבטחת הסייבר והגנת הפרטיות מותיר ארגונים ומנהלי אבטחת מידע רבים מבולבלים. אלא שבתוך תחום רועש זה, מסתמנת נקודת מפנה חדשה במאבק בין מערכות זיהוי פנים – לבין האנשים שמנסים להתחמק מהן: סוג חדש של הסוואה דיגיטלית צמח ממחקר בינה המלאכותית של DARPA (ר"ת Defense Advanced Research Projects) – גוף המחקר הפדרלי בעל השם הקליט – "הסוכנות למחקר פרויקטי ביטחון מתקדמים במשרד ההגנה האמריקני" – אחראי על פיתוחים טכנולוגיים רבים בצבא ארה"ב ובצבאות זרים, לצד שימושים אזרחיים, ומכונה (הסוכנות) "המשוגעת". כלי ה-AI החדש, הנתמך על ידי סוכנות המחקר, פועל באופן שונה מהרגיל: במקום להוסיף רעש, פילטרים או עיוותים נראים לעין, הטכניקה, הנקראת DiffProtect, משכתבת בעדינות את פניו של אדם בתמונה, תוך שימוש באותה טכנולוגיית בינה מלאכותית יוצרת, העומדת מאחורי כלי יצירת תמונה. התמונה שמתקבלת עדיין נראית לכל צופה אנושי כמו הדמות שבתמונה – אך במערכות זיהוי פנים מתקדמות, התמונה הופכת למשהו אחר לגמרי. הטכנולוגיה פותחה על ידי חוקרים מאוניברסיטת ג'ונס הופקינס, אוניברסיטת הונג קונג ו-AMD. המחקר נתמך על ידי תוכנית של סוכנות GARD (הבטחת עמידות של AI מפני הטעיה), שנועדה להבנה טובה יותר ולמציאת דרכים להתמודד עם האופן שבו מערכות לימוד מכונה עלולות להטעות. תוכנית GARD מתמקדת במחקרים על דינמיקות עוינות בין מערכות AI לקלטים (הנתונים המוכנסים לעיבוד) מטעים. אנליסטים ציינו, כי ממצאי המחקר פורסמו ב"תזמון מרשים", כאשר מערכות זיהוי פנים עברו מעולם האבטחה הפיסי, שם נעשה בהם שימוש נישתי – לשדות תעופה, טלפונים חכמים, מערכות מניעת אובדן ברשתות קמעונאות ומאגרי נתונים נרחבים של מדיה חברתית. כך, ציינו אנליסטים, "מיליארדי אנשים חיים כבר בתוך רשת ביומטרית גלובלית, שאליה הם לא בחרו להצטרף באופן מודע. ככל שיותר מערכות שכאלו מוטמעות באופן נרחב, כך גדלים החששות לגבי שיעורי טעויות, הטיות, זיהוי שגוי ושחיקת האנונימיות – במרחבים ציבוריים ודיגיטליים". בבסיס המחקר של DiffProtect עומדת ההנחה, שלפיה אותו סוג של מודלים מבוססי AI, שמאפשרים זיהוי פנים באופן הולך וגדל – יכול גם לערער אותו. היא בנויה על מודלים של דיפוזיה (פעפוע), טכנולוגיה שעומדת בבסיס רבים ממחוללי תמונות ה-AI. אלא שבניגוד לאפליקציות שיוצרות תמונות מאפס, DiffProtect משתמשת במקודד אוטומטי מפעפע, לוקחת תמונת פנים ומפצלת אותה לשני ייצוגים פנימיים: קוד סמנטי ברמה גבוהה, שקולט את הפרטים והתכונות העיקריים בתמונה; וקוד רועש ברמה נמוכה, שמקודד טקסטורה, תאורה ופרטים עדינים נוספים. על ידי התאמת הקוד הסמנטי בלבד, המערכת יכולה לשנות בעדינות את תכונות האדם המצולם בעת שחזור התמונה. השינויים האלה כמעט בלתי מורגשים. לפי החוקרים, התמונה המשופרת נראית כמו צילום אמיתי וקוהרנטי ולא שגויה או פגומה. כך, DiffProtect מציגה שינויים זעירים בהבעות הפנים, בצורת העין, בגוון העור או במבנה הפנים, שמספיקים לבלבל מודל זיהוי ממוחשב, אך לא בולטים מספיק לצופה אנושי. על מנת שהשינויים יישארו מזעריים ולא ישנו את דמות המצולם, החוקרים בנו "רגולציה", "מדיניות" – מערך חוקים סמנטיים, שמשווה ובודק את התמונה המקורית מול זו שעברה שינוי, ומגביל את פעילות האלגוריתם. כך, הסבירו, "לכלי מותר להטעות את המכונה, אבל לא את האנשים שמביטים בתמונה". לפי החוקרים, הכלי הציג ביצועים מרשימים: בתרחישי תקיפה ממוקדים, שבהם המערכת מנסה שתמונת פנים אחת תיראה כאחרת, DiffProtect השיגה שיעורי הצלחה גבוהים ב-24% לעומת החלופות המובילות, תוך שמירה טובה יותר על איכות התמונה. הכלי נותר יעיל גם בעת שימוש בסוגי הגנות שונים, לרבות מערכות זיהוי פנים מסחריות. "כלים כמו DiffProtect אינם מיועדים להסתיר פושעים", ציינו החוקרים, "הם מציעים לאנשים דרך טכנית להשיב לעצמם מידה מסוימת של חופש, פרטיות ועצמאות". למרות ההבטחה שלו, DiffProtect עדיין אינו משווק כיישום צרכני בשל הצורך בחומרה חזקה וזמן חישוב משמעותי. החוקרים סיכמו: "חל שינוי עמוק. הפרטיות בעידן ה-AI עשויה בסופו של דבר להיות תלויה ב-AI עצמה".

הזיות של בינה מלאכותית הן מצבים שבהם מערכות AI מייצרות מידע משפטי שאינו קיים ועם זאת נשמע סמכותי, קוהרנטי ומשכנע עד כדי כך שעורכי דין מחליטים לשלב אותו בכתבי טענות שהם מגישים לערכאות השונות. מאז כניסתן של מערכות ה-AI היוצרת לשוק, נתקלו בתי המשפט בתופעה חדשה ולא מוכרת: עורכי דין מגישים כתבי טענות הנשענים על פסיקה או חקיקה שאינן קיימות, תוצר "דמיון משפטי" של מודל בינה מלאכותית. התרחבות התופעה הגיעה עד לבג"ץ, שמצא לנכון לסקור אותה ולהתייחס אליה בשורה של פסקי דין, בהם בג"ץ 38379-12-24 בעניין פלונית ובג"ץ 23602-01-25 בעניין העמותה לקידום זכויות הכלבים. גם ערכאות נוספות מצאו עצמן מתמודדות עם התופעה וחלקן אף חייבו את עורכי הדין שעשו שימוש ב"הזיות" בתשלום הוצאות. עבור מי שאמון על חקר האמת, ודיוק בפרטים הוא נר לרגליו, זו תזכורת חשובה: גם כאשר התוצר מתעתע היות שהוא מנוסח היטב ונראה בפורמט הנכון, הוא אינו תחליף לבדיקת המקור. המאפיין המטעה הוא הדואליות: מצד אחד, כלי AI מסוגלים ליצר במהירות מרשימה טיוטות לכתבי טענות, הסכמים ותכתובות, לנתח עומסי מידע ולהציע מבני טיעון מרשימים וברורים. מצד שני, המודל עלול לייצר מידע שאינו קיים, אך נשמע משכנע כאילו נשאב ממאגר משפטי רשמי. זהו הפער שמלווה היום עורכי דין רבים – בין ניסוח שנשמע אמין לבין תוכן שעלול להיות לא נכון. כיצד נוצרות ההזיות? הזיות אינן תקלה נקודתית, אלא חלק מובנה מאופן הפעולה של המודלים. מערכות AI  אינן מתחברות למאגרים משפטיים מוסמכים. הן מחוללות טקסט על בסיס דפוסים לשוניים, לא על בסיס מסד נתונים מאומת. כאשר חסר להן מידע, הן ״מייצרות״ אותו, בהתאם למה שנראה להן סביר באותו רגע. "הבינה המלאכותית לא מהווה איום, אלא היא מתנה שמשלבת אתגר מקצועי: היא עשויה לטעות ולעשות זאת בביטחון רב. לכן תפקידה הוא לתמוך, לסייע ולייעל, אך לא להחליף את שיקול הדעת המשפטי ואת חובת האימות שעל כתפי עורכי הדין" כך מקבלים עורכי הדין תוצרים הכוללים תיקוני חקיקה שמעולם לא נחקקו, סעיפים שאינם מופיעים בשום ספר חוקים, או פסקי דין שלא ניתנו. במקרים אחרים, המודל אינו ממציא אלא מעוות: משנה פרטים מהותיים, מייחס קביעות שלא נאמרו או מציג פרשנות סטטיסטית כהלכה משפטית מחייבת. אז מה עושים? המסקנה אינה להפסיק להשתמש בבינה מלאכותית, אלא להפסיק להסתמך עליה כמקור מידע. המודלים מצוינים ליצירת טיוטות, ארגון טיעון, העלאת כיווני מחשבה והבהרת מורכבויות. הם אינם מתאימים להפקת פסיקה או חקיקה ולא לשם כך נוצרו. מכאן נגזרים עקרונות עבודה ברורים: כאשר הבינה המלאכותית כותבת — עורך הדין מאמת. כאשר הבינה המלאכותית מנסחת — עורך הדין אחראי. כיצד מיישמים זאת בפועל? אימות חובה –  כל טענה שמפיק מודל AI חייבת לעבור אימות עצמאי במאגר משפטי רשמי (דוגמת נבו ותקדין). שקיפות – ניתן לדרוש מהמודל לציין כאשר התשובה שלו אינה מבוססת על מקור ברור. הנחיות מותאמות אישית – שימוש בהנחיות מותאמות אישית מאפשר לצמצם הזיות באמצעות הנחיות ישירות למודל, כמו: "אל תייצר פסיקה שלא אומתה", או "כאשר אינך בטוח ציין זאת". סביבת עבודה סגורה – עבודה בפרויקטים סגורים מאפשרת למודל להסתמך רק על מסמכים שהוזנו ע"י עורך הדין ולא על מידע אקראי מהאינטרנט. נהנים מהפירות מבלי לשלם מחיר הבינה המלאכותית לא מהווה איום, אלא היא מתנה שמשלבת אתגר מקצועי: היא עשויה לטעות ולעשות זאת בביטחון רב. לכן תפקידה הוא לתמוך, לסייע ולייעל, אך לא להחליף את שיקול הדעת המשפטי ואת חובת האימות שעל כתפי עורכי הדין. אם נאמץ לעצמנו "קוד אתי" ברור של בדיקה, הצלבה ואימות, נוכל ליהנות מהערך האמיתי של הכלים החדשים וליצור תוצרים משוכללים ומשודרגים תוך שימור עקרונות היסוד של המקצוע: אמינות, דיוק ואחריות.   הכותבת היא יו״רית משותפת של ועדת הבינה המלאכותית – מחוז תל אביב, לשכת עורכי הדין בישראל.

שם ותפקיד: הודיה (דיה) נוביץ', מהנדסת תוכנה בחברת הטרוול‑טק הישראלית לוקלבירד (Localbird), המפתחת פלטפורמת קונסיירז' היברידית (AI משולב צוות אנושי) לתעשיית דירות הנופש וחדרי האירוח, תפקידים קודמים: מתמחה ב-GenAI ב-BCG, מתמחה בחקר משתמשים בסטארטאפ Millie השכלה: תואר ראשון במדעי המחשב עם לימודי משנה ביזמות וחדשנות, אוניברסיטת מרילנד. עליתי לישראל במאי 2025. מה הביא אותך לתחום הטכנולוגיה? בכנות, ניסיתי להימנע מזה בהתחלה. גדלתי בפאלו אלטו, קליפורניה, ממש בלב עמק הסיליקון. אבי עבד בתחום התוכנה ועודד אותי לעשות פרויקטים טכנולוגיים כשהייתי צעירה. אבל ניסיתי לא ללכת בדרכו. התחלתי את הקולג' כסטודנטית לרפואה. החשיבה שלי מדעית ורציתי לעזור לאנשים, ולכן ראיתי ברפואה כדרך היחידה לשלב זאת. אבל במהלך הלימודים, למדתי לראשונה קורס מדעי המחשב והכול התחבר לי. הבנתי שיכולה להיות לי השפעה משמעותית לא פחות באמצעות טכנולוגיה, ואולי אפילו יותר. בנוסף, רציתי שתהיה לי היכולת לבנות כל מה שארצה, מבלי להיות מוגבלת בגלל חוסר ידע טכנולוגי, וללמוד את כל הכלים המקצועיים. אבל הייתה לי גם סיבה פרקטית לבחור במדעי המחשב. ידעתי שאני רוצה לעלות לישראל, ומדעי המחשב יפתחו בפני הזדמנויות טובות יותר בישראל מאשר רפואה, ויביאו אותי לישראל מהר יותר. ככל שהמשכתי בלימודים, זה רק חיזק את אהבתי לטכנולוגיה. הבנתי שאני יכולה לעזור לאנשים עם פתרונות לבעיות אמיתיות באמצעות קוד. עוד לפני שהתחלתי לצבור ניסיון מקצועי, תמיד חיפשתי פתרונות טכנולוגיים ומצאתי דרך להביא אותם לכל תפקיד שמילאתי. בין אם זה היה בניית מחולל תפריטי אוכל כראש מטבח במחנה סטון, או יצירת מערכות לניהול משימות בתפקידי ניהול בארגון הסטודנטים. יכולתי לראות צורך ופשוט לבנות משהו שיפתור אותו. ככל שצברתי יותר ניסיון ולמדתי יותר, התאהבתי בכל העניין. אחרי השבעה באוקטובר, הכול השתנה. זה קיצר את לוח הזמנים המתוכנן של העלייה שלי. המעורבות שלי בתפקידי ניהול בקהילה היהודית חשפה אותי למציאות לא פשוטה של חיים מחוץ לישראל. הרגשתי שאני תמיד מסתירה חלק ממי שאני. התוכנית המקורית הייתה להגיע לישראל עם ניסיון עבודה מבוסס, אך במקום זאת הגעתי כמעט בלי ניסיון. אבל ידעתי שאני רוצה להשתלב בהיי-טק הישראלי, שמציע סביבת עבודה מיוחדת עבורי, שבה אני יכולה לבטא את עצמי במלואי ולבנות משהו משמעותי. האם את חושבת שיש אפליה נגד נשים בתעשיית ההיי-טק? כן, אפליה קיימת, אבל המצב משתפר. סבתא שלי הייתה מתכנתת בשנות ה-70, כמעט ללא נשים בטכנולוגיה. אבא שלי סיפר לי שהיו רק כמה נשים בשיעורי מדעי המחשב שלו בקולג'. אבל בשיעורים שלי באוניברסיטת מרילנד נשים היוו כמחצית מהכיתה. זו התקדמות של ממש. ועדיין, יש לא מעט אתגרים. הייתי בצוותים שבהם הייתי האישה היחידה. יש הנחות יסוד שבגלל שאני אישה, אני בטח מעוניינת יותר בעבודת front-end או בעיצוב. "תרבות החברים" (Bro culture) בקרב מפתחים נוכחת מאוד. ותסמונת המתחזה היא מאבק מתמיד. אבל אני אופטימית. לאורך השנים הייתי מוקפת בנשים מדהימות שתמכו בי בכל שלב. בתיכון, עשיתי את "Kode with Klossy", תוכנית לבנות במדעי המחשב. אישה עמדה מאחורי הגיוס שלי ל-BCG. המנכ"לית של Millie, שם התמחיתי, היא אישה. כשעליתי והתחלתי בנטוורקינג באקו-סיסטם בישראל, מצאתי קהילה מדהימה של נשים משפיעות בטכנולוגיה ובעסקים, שדחפו אותי להמשיך ולהרחיב את רשת הקשרים שלי ותמיד הציעו את תמיכתן. נשים אלו יוצרות את הסביבה התומכת שהדור הבא זקוק לה. האם נתקלת באפליה נגדך אישית, על רקע היותך אישה? אני בתחילת דרכי המקצועית. לוקלבירד הוא התפקיד המלא הראשון שלי כמהנדסת תוכנה, ואני עולה חדשה צעירה. אז אין לי שנים רבות של ניסיון בתעשייה. לשמחתי, לא חוויתי אפליה משמעותית עד כה. מה שכן חוויתי זו תסמונת המתחזה, וזה אינטנסיבי. להיות צעירה, להיות אישה, להיות עולה חדשה בישראל, להיות בתחילת הקריירה שלי יוצרים לי לעיתים רגעים שבהם אני מפקפקת אם אני מספיק טכנולוגית או אם אני שייכת. כשאת לעתים קרובות האישה היחידה בחדר, הספקות האלה מתעצמים. אבל לוקלבירד היו מדהימים מהיום הראשון. הם נתנו לי הזדמנות כעולה חדשה צעירה במקום לגייס מישהו מנוסה יותר. המנהל הישיר שלי, אלון, והצוות יצרו סביבה שבה אני יכולה לצמוח ולתרום. הם רואים את הפוטנציאל שלי, לא סטריאוטיפים. לעבוד בסטארט-אפ שבו כולם בונים יחד וחדשנות עושה את כל ההבדל. אני לא צריכה להסתיר חלקים מעצמי או להוכיח שאני שייכת בכל יום, אני פשוט לוקחת חלק בבנייה של הטכנולוגיה ומשפיעה. אני שמחה על ההזדמנות לבנות את הקריירה שלי מוקפת בנשים חזקות ובמנהלים שתומכים בי כמו אלון. השאיפה והחזון שלי הם שנמשיך ליצור מרחבים שבהם כל אישה, בכל שלב בקריירה שלה, תרגיש שהיא שייכת לכאן. כי אנחנו באמת שייכות.