אתגרי Flare-On הם סדרת אתגרי Revere Engineering שנוצרים מדי שנה ע"י צוות FLARE מחברת Mandiant (צוות ה-Malware Analysis של החברה). האתגרים היו שונים ומגוונים וביניהם: אתגר רברסינג ב-Go, אתגר רברסינג של Yara rules, אתגר js, אתגר BIOS עם הגנה מבוססת אימולטור, אתגר רברסינג שכלל חולשה במימוש קריפטוגרפי של עקומות אליפטיות, אתגר לינוקס ועוד. במאמר זה דניאל מציג את פתרונותיו לאתגרים אלו.

מודלי שפה גדולים (LLMs - Large Language Models) הפכו בשנים האחרונות לחלק בלתי נפרד מעולם הבינה המלאכותית. כלים כמו ChatGPT ודומיהם משתמשים ברעיון של קלט ופלט - מקבלים טקסט מהמשתמש ומייצרים ממנו תגובה או פעולה מתאימה. בגלל הפשטות והיעילות שלהם, המודלים האלו מצאו את דרכם כמעט לכל תחום אפשרי - מאומנות וכתיבה ועד פתרונות טכנולוגיים מורכבים. LangChain הינה ספריה קוד פתוח מהפופולריות עם כמעט 100K כוכבים בגיטהאב המבוססת על הרעיון הזה של המרת קלט לפלט והיא הפכה במהירות לפלטפורמה מועדפת לפיתוח יישומים מבוססי LLM ובדגש על מערכות (RAG (Retrieval-Augmented Generation. הבעיה בתהליך הקלט-פלט של LangChain וספציפית ב-GraphCypherQAChain שאחראי על המרת שאלות בשפה טבעית לשאילתות Cypher במסדי נתונים גרפיים, עלול להיות פגיע לקוד זדוני אם הקלט לא עובר בדיקה מספקת. במאמר זה, מציג ליעד חולשה שמצא באותה הספריה, המדגימה עד כמה זה יכול להיות מסוכן: תוקף יכול לנצל קלט מניפולטיבי ולבצע מתקפת SQL injection שתאפשר לו להשתלט על מסד הנתונים כולו באמצעות שורת טקסט פשוטה. ליעד מה הן מערכות RAG, עם דגש על GraphRAG, כיצד תהליך הקלט-פלט ב-GraphCypherQAChain פועל ב-LangChain, איפה הוא כושל, וכיצד ניתן להגן על המערכת מפני התקפות מהסוג הזה.