עס איז אפשר דריי יאָר זינט די לאָנטשירונג פון ChatGPT האָט אָנגעהויבן אַ נייע טעכנאָלאָגיע וואָפן-רעיס, אָבער אַלע אויגן זענען איצט אויף אַגענטישע קינסטלעכע אינטעליגענץ. שטיצער טענהן אַז עס וועט גיין איין בעסער ווי דזשענעראַטיווע קינסטלעכע אינטעליגענץ (GenAI) דורך אַרבעטן זעלבשטענדיק צו פאַרענדיקן אויפגאַבעס פֿאַר אירע מענטשלעכע בעל-הביתים. כּמעט צוויי-דריטל (62%) פון אָרגאַניזאַציעס עקספּערימענטירן שוין כאָטש מיט קינסטלעכע אינטעליגענץ אַגענטן, מיט גרעסערע פירמעס וואָס גייען ווייטער פון דער פּילאָט פאַזע, לויט McKinsey.
אבער מיט אויטאנאמיע קומט ריזיקע. נאר לעצטן חודש האט אנטרופיק אנטפלעקט וואס עס האט באהויפטעט צו זיין די ערשטע "אינטעליגענץ-ארקעסטרירטע סייבער-שפיאנזש קאמפיין", וואס האט גענוצט איר קלאוד טשעטבאט צו צילן צענדליגער ארגאניזאציעס. דאס איז א סכנה פון וואס די אנאליסטן קאמיוניטי ווארנט אויך.
Forrester'ס וויכטיגע סייבער-זיכערהייט פאראויסזאגונגען פאר 2026 איז אז אן אגענטישער קינסטלעכער אינטעליגענץ דיפּלוימענט וועט פאראורזאכן א עפנטלעך געמאלדן דורכברוך, וואס וועט פירן צו ארבייטער אנטלאזונג. די פראגע איז צי ארגאניזאציעס האבן די מכשירים, פריימווערקס און וויסן צו פירן אזעלכע ריזיקעס, בשעת'ן אויסניצן די ריזיגע ביזנעס בענעפיטן פון דער טעכנאלאגיע.
ווי אַגענטיק קינסטלעכע אינטעליגענץ אַרבעט
כאָטש GenAI נאָר סאַמערייזט און שאַפֿט אינהאַלט באַזירט אויף באַניצער פּראָמפּטס, זענען אַגענטישע קינסטלעכע אינטעליגענץ סיסטעמען דיזיינד צו אַרבעטן אָן קעסיידערדיק מענטשלעכע השגחה כּדי צו פאַרענדיקן אויפֿגאַבעס. צו טאָן דאָס, זאַמלען זיי אינפֿאָרמאַציע פֿון דאַטאַבייסעס, סענסאָרן, באַניצער און APIs. דערנאָך פּראָצעסירן זיי די דאַטן צו עקסטראַקטן איינזיכט און קאָנטעקסט. דערנאָך שטעלט זיך די קינסטלעכע אינטעליגענץ צילן באַזירט אויף פֿאָר-דעפינירטע צילן אָדער באַניצער אינפֿאָרמאַציע, אַרבעט אויס ווי זיי צו דערגרייכן, און ניצט לאָגיק צו קלייבן דאָס בעסטע פֿון עטלעכע מעגלעכע אַקציעס.
דערנאך קומט די אויספירונג פון יענער אקציע, געווענליך דורך אינטעראקציע מיט דריט-פארטיי סיסטעמען און דאטן. און דערנאך אפשאצונג פון די רעזולטאטן און קאנטינעווער פארבעסערונג און לערנען. עס איז די קינסטלעכע אינטעליגענץ'ס מעגלעכקייט צו פארענדיגן קאמפליצירטע, מערפאכיגע אויפגאבעס אויף דעם וועג – מעגליך זיך דינאמיש צופאסן ווען נייע אינפארמאציע ערשיינט – וואס מאכט עס אזוי נוצלעך. די באנוץ-פעלער זענען כמעט אומבאגרענעצט. די טעכנאלאגיע קען שטארקן אלעס פון פאראויסזאגנדיקע אויפהאלטונגס-ארבעטספלוסן אין אינדוסטריעלע סעטינגס, ביז קאסטומער רייזע מענעדזשמענט פאר אי-קאמערץ שפילער.
אויב מען וועט עס נוצן מיט שכל, קען אגענטישער קינסטלעכער אינטעליגענץ עלימינירן מענטשלעכע טעותים פון מאנועלע אויפגאבן, באפרייען שטאב צו קאנצענטרירן זיך אויף העכער-ווערטיקע ארבעט, און דראמאטיש פארבעסערן אפעראציאנעלע עפעקטיווקייט און פראדוקטיוויטעט. די עפעקטיווקייטן זאלן קענען רעדוצירן קאסטן. און אגענטן פון קינסטלעכער אינטעליגענץ קענען אויך צושטעלן א באדייטנדיקן שטופ פאר דער קונה-ערפארונג אין געוויסע אינדוסטריעס.
ווי אזוי א דורכברוך קען פאסירן
אבער, ווייל עס איז ווייניגער אויפזיכט איבער די קינסטלעכע אינטעליגענץ, איז דא א גרעסערע מעגלעכקייט פאר בייזוויליגע מאניפולאציע, אדער אקצידענטעלע ליעק פון דאטן, איידער זיכערהייט טימס ווייסן אפילו אז עפעס איז נישט גוט. ווי וויכטיגער די באשלוסן וואס אן אגענט איז בארעכטיגט צו מאכן, אלץ גרעסער דער פאטענציעלער ריזיקע. שנעלע אינדזשעקציע איז א הויפט זארג. דורך איינלייגן בייזוויליגע אינסטרוקציעס אין עפעס וואס אן אגענט וועט פארארבעטן – ווי א דאקומענט, וועבזייטל אדער אנליין קאמענטאר – קען א סכנה אקטאר עס נארן צו ליעקן סענסיטיווע דאטן.
לעקס קענען אויך פּאַסירן דורך אַ צופאַל, אויב די גאַרדריילז זענען נישט ריכטיק דיפּלויד. איבערפּריווילעגירטע אַגענטן און אַגענט פאַרשפּרייטונג פאַרגרעסערן די ליקעליהאָאָד פון עפּעס גיין פאַלש.
Forrester וואָרנט אַז דורכבראָכן זענען מעגלעך צוליב אַ "קאַסקאַדע פון דורכפאַלן". עלטערער אַנאַליסט פּאַדי הערינגטאָן גיט ISMS.online דריי סצענאַרן:
צו פיל צוטריט צו דאטן: "אין א יאגעניש צו אימפלעמענטירן אגענטישע קינסטלעכע אינטעליגענץ, קענען דעפארטמענטן און טימס איגנארירן די סטאנדארט נול-טראסט צוטריט גיידליינז. און אזוי ווי עס איז א 'פראגראם' און נישט א מענטש, קענען זיי אננעמען אז אזוי לאנג ווי זיי באפעלן עס נאר צו צוטריטן געוויסע דאטן סעטס, זאל דאס באגרענעצן זיין פארנעם," דערקלערט ער. "ליידער, ווי מען האט געלערנט דורך נישט האבן געהעריגע באניצער אדער דעווייס סעגמענטאציע, קען יעדער אגענט וואס קען צוטריטן דאטן ווערן מאניפולירט צו צוטריטן די דאטן. אויב מען לייגט צו דעם גניבה פון אן אויטענטיפיקאציע טאקען, קען די מאס דאטן וואס קען ווערן אויפגעזויגן פארקריפלען א ביזנעס."
שלעכטע אויטענטיפֿיקאַציע היגיענע: "די אַגענטן דאַרפֿן אויטאָריזאַציע צו צוטריטן דאַטן, וואָס מיינט אויטענטיפֿיקאַציע. אויב אויטענטיפֿיקאַציע צוגאַנגען זענען צו פּשוט - סטאַטישע טאָקענס נישט ריכטיק געהיט, אָדער אפשר צו ברייט אַן אויטאָריזאַציע - די אַגענטן קענען דעמאָלט זיין מאַניפּולירט דורך סאַקאָנע אַקטיאָרן," זאגט הערינגטאָן. "אויב אַ באַניצער שאַפֿט אַן אַגענטישן וואָרקפֿלאָו און אויב עס זענען נישטאָ קיין גיידליינז, איז עס מעגלעך אַז זיי קענען שיקן דאַטן צו עקסטערנע רעפּאָזיטאָריעס אָדער צוטריטן סענסיטיווע דאַטן דורך די זעלבסטשטענדיקע וואָרקפֿלאָווס. אויב עס זענען נישטאָ קיין גאַרדריילס, דאָס קען מיינען אויפֿדעקן HR, פינאַנציעלע, אָדער אפילו אויטענטיפֿיקאַציע אינפֿאָרמאַציע."
צוטרוי אין נידעריג-גענויקייט אינפארמאציע: "די גענויקייט פון פילע פראבאביליסטישע מאדעלן קען זיין פון 60% ביז 10%. אויב מען לייגט עס אין קאנטעקסט פון IT אדער זיכערהייט ווארענונגען, מיט א געאיילטן-צו-מארקעט מאדעל, קען מען האבן א גאנצע רייע פאלשע פאזיטיוון אדער, ערגער, פאלשע נעגאטיווע ווארענונגען," טענה'ט הערינגטאן. "דאס קען אפlenken די טימס פון די אקטועלע פראבלעמען אדער מאכן זיי אינגאנצן פארפאסן זיי. וואס אנבאלאנגט די קאסקאדע, ווען מען שאפט יענעם אגענטישן ארבעטס-פלוס, וואו די אגענטן ארבעטן צוזאמען, קען א ליגן אין איינעם דאן פאראורזאכן אז די נאכפאלגנדע אגענטן אין דעם ארבעטס-פלוס זאלן זיך דערנענטערן פון יענעם ליגן, שאפן זייער אייגענעם, און דאס לאזן גיין אזוי אז די רעזולטאטן אדער לעצטע אקציעס זענען א זיכערהייט/IT שרעק."
גאַרדריילס און פּאָליטיקס
Forrester'ס עצה איז צו נאכפאלגן זיין Agentic AI Guardrails For Information Security (AEGIS) פריימווערק . עס איז באזירט ארום זעקס "דאָמעינען":
- גאַווערנאַנס, ריזיקע, און קאָנפאָרמאַנס (GRC)
- אידענטיטעט און אַקסעס פאַרוואַלטונג (IAM)
- דאַטאַ זיכערהייַט און פּריוואַטקייט
- אַפּפּליקאַטיאָן זיכערהייַט
- סאַקאָנע פאַרוואַלטונג
- נול טראַסט אַרקאַטעקטשער
דער אנאליסט רעקאמענדירט צו אָנהייבן מיט GRC – אויפשטעלן גאַווערנאַנס, בויען אַגענט אינווענטאַר סיסטעמען און דעפינירן אַקסעפּטאַבאַל נוצן. עס דרינגט זיכערהייט טימז צו דערנאָך בויען IAM און דאַטן זיכערהייט, באַהאַנדלען אַגענטן ווי אַ "נייע אידענטיטעט קלאַס". ווייטער זאָלן קומען פֿאַרבעסערונגען צו DevSecOps צו זיכערן דעם אַגענט לעבן-ציקל און דעטעקטירן האַלוצינאַציעס. און לעסאָף, אָפּטימיזאַציע דורך Zero Trust צו דורכפֿירן מינדסטער אַגענטור, מאָניטאָרירן פֿאַר אַנפּלאַנד נאַטור און איזאָלירן שלעכטע אַגענטן.
בעסטע פּראַקטיק סטאַנדאַרדן ווי ISO 42001 קענען אויך דאָ העלפֿן, ווײַל עס איז דאָ אַ באַדײַטנדיקע איבערגאַנג מיט דעם AEGIS צוגאַנג, זאָגט הערינגטאָן. וואָס אימער זייער לעצטער מעטאָד זאָל זײַן, ער דרינגט אָרגאַניזאַציעס צו זיכער מאַכן אַז זיכערהייט איז אײַנגעבאַקט אין אַגענטישע קינסטלעכע אינטעליגענץ פּראָיעקטן פֿון אָנהייב אָן.
"יעדער באוועגט זיך צו שנעל כדי די ריכטיגע שוץ זאלן איינגעשטעלט ווערן. ביזנעס פירער זעען די אימפלעמענטאציע פון קינסטלעכע אינטעליגענץ אגענטן און אגענטישע ארבעטס-פלוסן אלס ברענגען ריזיגע קאסטן שפארענישן און פארגרעסערן עפעקטיווקייט," ענדיגט ער.
"זיכערהייט, די דעפארטמענט פון 'ניין', איז אפט א שטערונג צו שנעלקייט ווייל מיר זאגן מענטשן צו נעמען די צייט צו נאכפאלגן זיכערע אפעראציע פראקטיקעס. און יענע שנעלקייט באמפס ווערן געזען ווי שטענדיג אין וועג. אבער כמעט יעדעס מאל [זיכערהייט ווערט איגנארירט], ענדיגט עס זיך עווענטועל מיט ווייטאג."
