נתתם משימה לסוכן? כך תוודאו שהוא לא מקבל הוראות ממישהו אחר

Lead

הוראה נסתרת בקובץ הנחיות עלולה להטעות את עוזר הבינה המלאכותית ולהוביל להמלצה מנומקת אך שגויה • תופעת הזרקת ההנחיות העקיפה ממחישה מדוע אסור להסתמך על סיכומים עיוורים של המודל • המדריך המעשי לבדיקת ראיות ולמניעת מניפולציות במיונים The post נתתם משימה לסוכן? כך תוודאו שהוא לא מקבל הוראות ממישהו אחר appeared first on C14.

A hidden instruction in a prompt file could mislead the AI assistant and lead to a reasoned but incorrect recommendation • The phenomenon of indirect prompt injection illustrates why you shouldn't rely blindly on the model's summaries • A practical guide for checking evidence and preventing manipulation in screenings