פֿאָרשער האָבן דעטאַלירט אַ פֿעלער אין מײַקראָסאָפֿט 365'ס קאָפּילאָט, "עטשאָליק", וואָס קען דערלויבן אַטאַקירער צו אַרויסנעמען סענסיטיווע פֿירמע דאַטן אָן קיין באַניצער אינטעראַקציע. ווי פּראָבלעמען ווי דאָס וואַקסן, זענען פֿירמעס צופֿרידן וועגן דער סכּנה פֿון קינסטלעכער אינטעליגענץ?
אין יוני, האבן פארשער אנטפלעקט אז זיי האבן געפונען א חסרון אין מייקראסאפט 365'ס קאַפּילאָט וואָס קען ערלויבן קעגנער צו עקספילטרירן סענסיטיווע פירמע דאַטן אין אַ "נול-קליק" אַטאַק, אָן קיין אינטעראַקציע פון דעם באַניצער.
גערופן "EchoLeak" און געהאלטן פאר דעם ערשטער פון זיין מין, די וואַלנעראַביליטי נוצט אויס דיזיין חסרונות געפֿונען אין ריטריוואַל פאַרגרעסערן דור-באזירטע טשאַטבאָטס און קינסטלעכע אינטעליגענץ אַגענטן, האָבן פאָרשער ביי Aim Labs געזאָגט.
אין אַ בלאָג, האבן די פארשער דערקלערט ווי זיי האבן גענוצט א נייע אויסניצ-טעכניק גערופן גרויסע שפראך מאדעל (LLM) סקאופ ווייאַליישאַן. "דאס רעפּרעזענטירט א גרויסע פארשריט אין פארשונג-אנטדעקונג אין ווי אזוי סכנה-אקטארן קענען אטאקירן קינסטלעכע אינטעליגענץ אגענטן — דורך נוצן אינערליכע מאדעל מעכאניק," האבן זיי געשריבן.
מייקראָסאָפֿט האָט געפּאַטשט דאָס פּראָבלעם איידער עס האָט געקענט גענוצט ווערן אין פאַקטישע אַטאַקעס, אָבער עטשאָליק ווײַזט די זייער פאַקטישע ריזיקעס וואָס ווערן געשטעלט דורך קינסטלעכע אינטעליגענץ מכשירים אין געשעפט.
ווי שוואַכקייטן ווי די דערשייַנען מער און מער, זענען פירמעס צופֿרידן וועגן דער סכּנה פֿון קינסטלעכער אינטעליגענץ, און וואָסערע טריט דאַרפֿן זיי נעמען צו פֿאַרזיכערן אַז זיי זענען ווידערשטאַנדספֿעיִק?
קינסטלעכע אינטעליגענץ-באזירטע סכנות
קינסטלעכע אינטעליגענץ מכשירים שטעלן פאר אסאך ריזיקעס פאר ביזנעסער. למשל, כאטש זיי זענען טרענירט געווארן צו זיין נוצלעך, פארשטייען זיי נישט שטענדיג וואס מען זאל נישט טיילן, זאגט סעם פיטערס, הויפט פראדוקט אפיציר ביי ISMS.online.
איינע פון די גרעסטע ריזיקעס ליגט אין דעם וועג ווי גענעראַטיווע קינסטלעכע אינטעליגענץ סיסטעמען ווערן טרענירט אדער געפֿאָדערט. "זיי קענען אומבאַוואוסטזיניק אויפֿהיטן אָדער אויפֿדעקן סענסיטיווע אינפֿאָרמאַציע, אָן קיין שלעכטע כוונה," וואָרנט ליליאַן צאַנג, עלטערע דאַטן שוץ און פּריוואַטקייט אַדוואָקאַט אין דער אַדוואָקאַטן פֿירמע האַרפּער דזשיימס.
אויב שלעכט קאָנפיגורירט, קענען קינסטלעכע אינטעליגענץ מכשירים אפילו אויסברייטערן קליענט אָדער עמפּלויי דאַטן אין ענטפער צו פּראָמפּטס. "הינטערגרונט פּראָצעסן קענען אויפדעקן קאַשט אָדער טאָקעניזירט אינפֿאָרמאַציע דורך ינטעראַקשאַנז מיט פונדרויסנדיק סיסטעמען," דערקלערט טסאַנג. "דער מערסט ומבאַקוועמער טייל איז אַז דער באַניצער קען קיינמאָל נישט וויסן אַז זייער דאַטן זענען געווען שלעכט באַהאַנדלט, מאכן דיטעקשאַן און ענטפער נאָך שווערער."
נאך ערגער מאכן די זאכן איז די שנעלקייט מיט וואס קינסטלעכע אינטעליגענץ ווערט אנגענומען. קינסטלעכע אינטעליגענץ מכשירים ווערן מער און מער איינגעווארצלט טיף אין ביזנעס אינפראַסטרוקטור — אָפט צוזאַמען מיט "אומקלאָרע פּאָליטיק" אָדער "לימיטירטע זעאונג אין ווי זיי פּראָצעסירן און סטאָרירן דאַטן", זאגט ראבערט ריאַ, הויפט טעכנישער אָפיציר ביי גריילאָג.
שוואַכקייטן אין קינסטלעכע אינטעליגענץ מכשירים לייגן צו נאָך ברענשטאָף צום פייער. עטשאָליק איז אַ קלאָרער סימן אַז די זיכערהייט מאָדעלן אויף וועלכע פירמעס האָבן זיך פֿאַרלאָזט איבערזעצן זיך נישט גוט צו קינסטלעכע אינטעליגענץ, זאָגט עמיליאָ פּינאַ, דירעקטאָר ביי סעקיורפֿלאַג. "מכשירים ווי קאָפּילאָט אַרבעטן אַריבער קייפל קוועלער און פּערמישאַנז, ציען אַרײַן דאַטן אויטאָמאַטיש צו העלפֿן מיט פּראָדוקטיוויטי. די אַרויסרופן איז אַז קינסטלעכע אינטעליגענץ פֿאָלגט נישט די זעלבע קלאָרע גרענעצן ווי טראַדיציאָנעלע אַפּפּס."
קינסטלעכע אינטעליגענץ מכשירים, ווי למשל מייקראָסאָפֿט קאָפּילאָט, זענען אומצווייפלדיק שטאַרק, אָבער זיי זענען נאָר אַזוי זיכער ווי די סיסטעמען און פאַרוואַלטונג אַרום זיי, זאָגט פּיטערס. "איך טראַכט וואָס דער אינצידענט אונטערשטרייכט איז אַז רעכט איצט, די פאַקטישע ריזיקירן מיט קינסטלעכע אינטעליגענץ איז נישט נאָר וועגן באַוואוסטזיניק מיסברויַך; עס איז וועגן אַנאַבזיכטלעך ויסשטעלן."
ריזיקע באוואוסטזיניק
ווי עקאָליק ווייזט, איז די סכּנה רעאַל און וואַקסנדיק, אָבער עקספּערטן טראַכטן אַז עטלעכע פירמעס זענען צופֿרידן וועגן די געפֿאַרן פֿאַרבונדן מיט קינסטלעכע אינטעליגענץ מכשירים. דאָס איז טיילווייז ווײַל עס איז אַזוי פֿיל פֿאָקוס אויף וואָס קינסטלעכע אינטעליגענץ קען טאָן, אַנשטאָט די ריזיקעס וואָס עס שטעלט פֿאָר.
"ביז א געוויסן גראד, זענען ביזנעסער איצט פארבלענדט דורך די נייעקייט פון קינסטלעכער אינטעליגענץ און אירע מעגלעכקייטן," דערציילט יוסף טאמפסאן, אדוואקאט אין דער קאמערציעלער און טעכנאלאגיע מאַנשאַפֿט ביי בירקעטס LLP. ISMS.onlineמיר פרעגן זיך נישט צי עס איז זיכער, וואָס די ריזיקעס זענען, און ווי מיר קענען זיך און אונדזערע געשעפטן באַשיצן."
די גרעסטע פראבלעם איז אז אסאך ארגאניזאציעס זעהן נאך אלץ קינסטלעכע אינטעליגענץ אלס אן צוגאב, אנשטאט עפעס וואס ענדערט פונדאמענטאל ווי דאטא ווערט צוגעגריפן און אויסגעשטעלט, זאגט פיטערס. "עס איז דא אן אנווייזונג אז פארקויפער האבן אלעס אונטער קאנטראל."
אבער, די ווירקלעכקייט איז אז קינסטלעכע אינטעליגענץ זיצט נישט אין א זאמלונג, זאגט ער. "עס האט אן איינפלוס אויף אלעס. יענע פארבינדונג איז פונקט וואס מאכט עס אזוי ריזיקאליש אן די ריכטיגע קאנטראלן."
וויבאלד קינסטלעכע אינטעגראציע איז טיף אינטעגרירט אין די הויפט פּראָדוקטיוויטי סוויטס, וואַקסן די פֿאַרבונדענע ריזיקעס באַדייטנד, זאָגט רעאַ. "נישט מער פונקציאָנירנדיק ווי אפגעזונדערטע מכשירים, אַנטוויקלען זיך קינסטלעכע אינטעגראציע סיסטעמען אין דורכדרינגלעכע שיכטן איינגעוואָרצלט אין אַפּליקאַציעס, APIs און קאָמוניקאַציע קאַנאַלן. די ברייטע אינטעגראַציע פֿאַרברייטערט די מעגלעכקייט פֿאַר מיסברויכן, אַקסאַדענטאַלע דאַטן ויסשטעלן און ליקאַדזש."
אויב גאָרנישט ווערט געטאָן צו באַהאַנדלען דעם פּראָבלעם איצט, וועלן די זאַכן ווערן ערגער. ווי די טעכנאָלאָגיע אַנטוויקלט זיך, וועט קינסטלעכע אינטעליגענץ אָנרירן מער דאַטן, סיסטעמען און אַרבעטספלאָוז, און באַדייטנד אויסברייטערן פּאָטענציעלע אַטאַק-פלאַכן, זאָגט טאָמפּסאָן.
אין דער זעלבער צייט, וועלן געשעפטן דאַרפן זיך באַקעמפן מיט די מער און מער סאָפיסטיקירטע אַטאַק מעטאָדן וואָס ווערן גענוצט דורך קעגנער. "אַטאַקירער וועלן זיך אריבערציען פון ריין צילן קאָד און אינפראַסטרוקטור צו פאָקוסירן אויף קינסטלעכער אינטעליגענץ נאַטור אַליין," וואָרנט טאָמפּסאָן.
אלץ דאס וועט מאכן קינסטלעכע אינטעליגענץ גאַווערנאַנס אַלץ מער קאָמפּליצירט, און וועט פארלאנגען פון טימז פון איבערן געשעפט צו ארבעטן צוזאמען צו אויפפּאַסן אויף קאָנפאָרמאַנס און איבערקומען פּאָטענציעלע סכנות, לייגט טאָמפּסאָן צו.
פארשטארקן קינסטלעכע אינטעליגענץ גאַווערנאַנס סטראַטעגיעס
ערשטנס און וויכטיגסטנס, איז עטשאָליק א וועק-אפ רוף, זאגט טאמפסאן. "עס גייט נישט נאר וועגן פאררעכטן די שוואכקייט און ווייטערגיין. ארגאניזאציעס מוזן איבערטראכטן סיי די מאס און סיי די וועג פון אינטעגראציע פון קינסטלעכער אינטעגראציע אין ביזנעס-קריטישע סיסטעמען."
מיט אן שטייגנדיקע צאל קינסטלעכע אינטעליגענץ מכשירים און אפליקאציעס וואס קומען צום מארקעט, דארפן ביזנעסער זיך שנעל רירן. דאס באדייט "אן ערנסטן שריט פאראויס" אין ווי אזוי פירמעס גייען צו צו קינסטלעכע אינטעליגענץ גאווערנענס, זאגט פעטערס. "אזוי לאנגווייליג ווי עס הערט זיך מסתמא אן, דאס נעמט אריין זאכן ווי קלארע דאטן קלאסיפיקאציע, שטארקערע צוטריט קאנטראלן, בעסערע מאניטארינג, און וויכטיגסטנס, טרענירן אייערע שטאב מיטגלידער צו פארשטיין ווי אזוי די מכשירים זיך אויפפירן."
עס איז ווערט צו באַטראַכטן NIST'ס אַי ריסק מאַנאַגעמענט פראַמעוואָרק, וואָס וועט העלפֿן פֿירמעס פֿאַרשטיין די מעלות פֿון דער טעכנאָלאָגיע בשעת זיי פֿאַרמינדערן אירע ריזיקעס. ISO 42001:2023 דער פריימווערק פֿאָרשלאָגט אויך ווי צו שאַפֿן און אויפֿהאַלטן קינסטלעכע אינטעליגענץ פאַרוואַלטונג סיסטעמען פֿאַראַנטוואָרטלעך אין אָרגאַניזאַציעס.
עפעקטיווע גאַווערנאַנס קען נישט זיין אַן נאָכטראַכט. אויב יאָ, האָט איר שוין דורכגעפאַלן, זאָגט פּיטערס. כּדי גאַווערנאַנס זאָל עפעקטיוו באַשיצן אייער געשעפט, מוז עס זיין איינגעבויט אין אייערע ריזיקע און קאָנפאָרמאַנס סטראַטעגיעס פֿון אָנהייב, ראַט ער.
"קיין געשעפט קען זיך נישט ערלויבן צו זאגן 'ניין קינסטלעכע אינטעליגענץ'. מיר ווילן אלע אויסנוצן די בענעפיטן, אבער עס מוז געטאן ווערן מיט אחריות," דערקלערט פעטערס.
דאָס מיינט פרעגן שווערע פֿראַגעס וועגן וואו אייערע דאַטן געפֿינען זיך, ווי עס פֿליסט דורך אייער געשעפֿט און אייערע סאַפּלייערס, און ווער – אָדער וואָס – האָט צוטריט צו זיי.
"מיין זאָרג איז אַז אויב געשעפטן גייען נישט פאָרויס פון דעם איצט, וועלן זיי זיך געפֿינען קעסיידער רעאַגירנדיק צו אינצידענטן, אַנשטאָט זיי צו פאַרהיטן," זאָגט פּיטערס. "פֿון אַ געשעפט פּערספּעקטיוו, מיטן טעמפּאָ פֿון AI אַנטוויקלונג, וועט דאָס שנעל ווערן נישט נאָככאַלטיק."
