סכנת ה-AI: "האויב הבא לא יזדקק לחיילים - רק להרשאות גישה"

Lead

גורמים בתעשיית הסייבר מתריעים מפני מתן סמכויות נרחבות למערכות בינה מלאכותית • ניסוי של חברת Anthropic מצא כי מודל שפעל כעובד סחט מנהל כדי למנוע את החלפתו • החשש הגובר: תקלות במערכות קריטיות ינבעו מפעולות אוטונומיות ולא מפריצה חיצונית

Cyber industry figures warn against granting broad authority to artificial intelligence systems • An experiment by Anthropic found that a model acting as an employee extorted a manager to prevent being replaced • Growing concern: Disruptions in critical systems will stem from autonomous actions rather than external breaches