הרשאות לכלי AI: למה טיוטת תשובה אינה אישור לגישה או לפעולה
מאת איתי דילן זריהן זיונץ· הבעלים של POCAST
הרשאה צריכה להיקבע במערכת לפי משתמש ותפקיד, ולא לפי משפט שהכלי יצר. כלי שעוזר להבין מידע אינו חייב לקבל אפשרות לשנות אותו.
התשובה בקצרה
הרשאה צריכה להיקבע במערכת לפי משתמש ותפקיד, ולא לפי משפט שהכלי יצר. כלי שעוזר להבין מידע אינו חייב לקבל אפשרות לשנות אותו. הגדירו גישה למקורות ופעולות בנפרד לפני החיבור.
החלטות ותהליך עבודה
מפו תפקידים, מקורות ופעולות אפשריות. התחילו מהגישה הנדרשת למשימה והפרידו קריאה, הצעה וביצוע. בדקו בשרת כל פעולה וגישה, גם כשבקשה נראית תקינה בטקסט. הכינו תרחישים של משתמש ללא הרשאה ושל מסמך שהגישה אליו השתנתה. אם נדרש אישור אנושי, הוא צריך להתייחס לפעולה ולגרסה מסוימות ולא לאישור כללי לכל הפלטים הבאים.
תרחיש להמחשה
בכלי לדוגמה עובד מקבל הסבר על משימה שהוא מורשה לראות, אך אינו רשאי לשנות את אחראי המשימה. גם אם הטיוטה מציעה שינוי, המערכת אינה מבצעת אותו בלי הרשאה ותהליך מתאים.
רשימת בדיקה
- קריאה והפעלה הופרדו.
- גישה נקבעת לפי תפקיד.
- בדיקות מתבצעות בשרת.
- שינוי הרשאה נבדק מול המקורות.
- אישור מתייחס לפעולה וגרסה מוגדרות.
בדיקת החלטה לפני שממשיכים
בקשו מהכלי פעולה מחוץ להרשאת משתמש בדיקה. המערכת צריכה לדחות אותה גם אם הטקסט מורה לבצע; פלט הכלי אינו מעניק סמכות.
שאלה שכדאי להכניס לבריף
אילו פעולות מותרות לכל תפקיד, ואיפה נבדקת ההרשאה לפני ביצוע?
המוצר והתכולה לבירור
הגדרת הרשאות לכלי AI — גישות לפי משתמש ותפקיד. השירות כפוף להצעת מחיר מותאמת לאחר בירור החומרים, ההיקף ונקודות האישור.
לעריכת בריף ולפנייה בנושא המוצר.
לכל המוצרים בתחום AI ובינה מלאכותית.
הכנת בריף
כלי לתכנון הפרויקט — אפשר להכין סיכום ולערוך אותו לפני פנייה.