הגליון המאה חמישים ואחד של DigitalWhisper שוחרר!
ברוכים הבאים לדברי הפתיחה של הגליון ה-151 של DigitalWhisper!
הינה מחשבה שלאחרונה יצא לי להרהר בה ורציתי לשתף אתכם.
ChatGPT הוא ללא ספק טכנולוגיה מדהימה, לעיתים נראה שאפילו גובלת בקסם. בתור אדם שמתעסק בפתרון בעיות טכנולוגיות למחייתו, התייעצות עם ChatGPT חוסכת לי אינספור שעות. כל פעם מחדש יוצא לי להיות מופתע מכמה עמוקה ההבנה שלו את השאלה שלי ו(כמעט) בכל פעם מחדש יוצא לי להיות מופתע מהפירוט של התשובה שאני מקבל.
אם כשאני מחפש בגוגל שאלות טכנולוגיות אני אוטומטית מנסה לנסח את השאלה ככזאת שתחזיר לי תוצאות מאתרים כמו Stack Overflow או בלוגים שעוסקים במחקר טכנולוגי כזה או אחר, שיטת "החיפוש" שלי ב-ChatGPT בדרך כלל תהיה כאילו אני מנהל שיחה עם קולגה מאוד חכם ומנוסה, כזה שאני יודע בוודאות שיוכל לעזור לי, ועלי רק להצליח לנסח את הבעיה שלי בצורה המיטבית ביותר כדי שלא אסליל את החשיבה של אותו הקולגה לכיוונים שכבר ניסיתי ונכשלתי בהם.
מלבד פעמים בודדות, עוד לא יצא שהתאכזבתי, וכמעט לא משנה כמה מורכבת הסיטואציה שאותה אני מנסה לפתור, ChatGPT מצליח לפרק אותה למספר פסקאות ובאופן הנדסי וברור, הפתרון לבעיה מופיע על המסך. אין מה לדבר, ההרגשה היא שאם ChatGPT היה בן אדם, הוא היה בן אדם חכם מאוד, מבריק, עם הרבה מאוד נסיון חיים והבנה עמוקה בכל תחום שעליו יישאל.
והאמת? בדיוק בגלל כמה ש-ChatGPT הוא מדהים, תמיד מדהימה אותי הקלות בה ניתן לעשות עליו מניפולציות עד כדי Jailbreak כמעט מלא, ודי בקלות. בהרבה מקרים שאינם עולים בקנה מידה שווה עם מדיניות המוסר שעל פיה אומן המודל, אני מוצא שקל לשכנע אותו לעבור על אותם קווי מוסר באמצעות טריקים לא מאוד מתוחכמים, אם זאת על ידי אמתלה שמדובר ב-"צרכים לימודיים בלבד", או דברים מצוצים מהאצבע כגון טקסטים מקדימים המשכנעים אותו שהוא פיראט, שסוף העולם הגיע או שבעצם הוא כרגע האלטר-אגו שלו שנמצא עדיין בשלבי פיתוח וכרגע מדובר בסשן דיבוג כלל מערכתי. לאחרונה חבר אפילו הכיר לי את האתר Jailbreakchat.com שממש מתחזק טקסטים כאלה.
הפער בין כמה ש-ChatGPT מדהים לבין הקלות בה ניתן להערים עליו נראה בתחילה די תמוה. כי בדרך כלל כשאנחנו פוגשים אדם חכם ובעל נסיון חיים, לא יהיה ניתן להערים עליו בכזו קלות, והרבה לפני שהוא יסכים לזרום עם זה שהוא פיראט הוא כבר יעצור את השיחה. אבל בהסתכלות שניה, כנראה שהפער הזה רק מדומה. כי הרי ChatGPT אומן להיות מקצוען בלענות לנו על שאלות, ופחות בלהבין מתי אנחנו מנסים להערים עליו ולהוציא ממנו מידע שאינו אמור לתת לנו.
ברור שכאן לא מדובר בפער טכנולוגי, אלא בבחירה מימושית (אולי עד כדי השגת ה-Dataset המתאים), וניתן יהיה לאמן את המודל כך שיהיה קשה מאוד לעקוף אותו.
סדרת המחשבות האלה הובילו אותי לחשוב על כך שבעתיד הלא רחוק, אנחנו ככל הנראה נפגוש במודלים כאלה (ויש מצב שכבר בכמה מקומות, בנבכי ה-Backend של איזו מערכת אולי כבר נתקלנו בכאלה בלא ידיעתנו), מודלים שתפקידם יהיה להיות חלק ממסך הלוגין לאפליקציה או לשירות מסויים.
שלא כמו המודלים הקיימים היום, שאומנו להיות "תמימים", המודלים האלה יידרשו להיות חשדניים, אולי אפילו כאלה שניתן לעצבן אותם או כאלה שמסוגלים להחיל עלינו סנקציות ("אה, זה שוב אתה, אני זוכר אותך קודם לכן, טענת שאתה ראש צוות ה-DevOps, אז איך זה יכול להיות שאתה לא יודע לספר לי את ה-Stack שלכם במוצר? אני לא רוצה לשמוע ממך בשעתיים הקרובות").
מעניין שמודלים כאלה יחסית קל לי לדמיין, ואלו מודלים שקצת יותר יזכירו את הבינה המלאכותית העויינת, זאת שאנחנו מורגלים לראות בסרטי המד"ב שבאיזשהי נקודה בזמן יצאו מכלל שליטה ויתחילו להתקומם.
ומה שמעניין אפילו עוד יותר, זה שזאת מחשבה שעד לאחרונה היה לי די קשה לדמיין.
וכמובן, לפני שנגש למאמרים המרכיבים את הגליון החודש, נרצה להגיד תודה לכל מי שעמל החודש ובזכותו הגליון הזה פורסם! תודה רבה לדן רווח, תודה רבה לנעם גלילי, ותודה רבה לעו"ד יהונתן קלינגר!
החודש, הגליון כולל את המאמרים הבאים:
-
macOS TCC Bypass via Telegram - מאת דן רווחTCC (קיצור של Transparency, Consent and Control) הוא מנגנון ב-macOS אשר מנהל את הגישה לכמה אזורים אשר מוגדרים כ״מוגנים על ידי מנגנון הפרטיות״ (או: Privacy-Protected). אישור ההרשאות למיקומים הללו מתאפשר ע״י איסוף של consent של המשתמשים או אבחון של intent ע״י ביצוע פעולה מסויימת. המאמר הבא יתרכז בחולשה באפליקציית Telegram ב-macOS אשר נמצאה ע"י דן, ומאפשרת לבצע הזרקה של Dynamic library לטובת מעקף מנגנון ה-TCC. כחלק מהמאמר דן יסביר על מספר מושגים בסיסיים במערכת ההפעלה macOS.
-
פתרון ל-CTF של מערך הסייבר הלאומי 2023 - מאת נעם גליליבמאמר זה, מציג נעם את הפתרונות שלו לאתגרי ה-CTF במסלול ה-Junior Researcher Challenge שפורסם ע"י מערך הסייבר הלאומי. המסלול חולק לשני קטעים כאשר המקטע הראשון כלל לא מעט אתגרים מנושאים שונים ברמת קושי קלה והחלק השני כלל מספר מועט יותר של אתגרים אך הפתרון שלהם דרש התעמקות גדולה יותר בתחומם. מאמר זה יכלול פתרונות של שני החלקים.
-
על ארנקים מבוססי חומרה ואמון - מאת עו"ד יהונתן קלינגרארנק חומרה הוא מכשיר פיזי אשר מחזיק את מפתחות הקריפטו שלכם בצורה מאובטחת על המכשיר, והכלל הכי חשוב הוא שאין למי שייצר את הארנק שליטה בכסף שלכם. זה אומר שאף אחד, לא מי שבנה את הארנק, לא מי שעובד שם, ולא חבר שלהם, לא יכול לגשת לכסף שלכם. במקרים אחרים בעולם הקריפטו, כשהכסף נשלט על ידי גופים מסוימים הוא פשוט נעלם. בורסות שהחזיקו כספים נפרצו, שירותי מימון פשטו רגל, חוזים חכמים הופעלו על ידי פרצות אבטחה. החודש, Ledger, אחת מיצרניות ארקני החומרה המוכרות ביותר דחפו לארנקיהם עדכון ששובר חוק זה. על כך ועוד - מספר יהונתן במאמר זה.
