געדענקט איר שאָטן-איי? עס האט אַ דיסראַפּטיוו נייעם ברודער: שאָטן קינסטלעכע אינטעליגענץ. ווי עמפּלוייז ווערן וואַרעם צו די צייט-שפּאָרנדיקע מעגלעכקייטן פון דזשענעראַטיווע קינסטלעכע אינטעליגענץ מאָדעלן, שטראָמען זיי צו זיי אין אַרבעט. די פּראָבלעם איז אַז זיי האָבן נישט שטענדיק דערלויבעניש.
שאָטן קינסטלעכע אינטעליגענץ איז נישט נאָר אַ טעאָרעטיש פּראָבלעם, לויט טשעק פּוינט ריסערטש'ס קינסטלעכע אינטעליגענץ זיכערהייט באריכט 2025עס איז איצט דא. קינסטלעכע אינטעליגענץ סערוויסעס זענען איצט אקטיוו אין לפחות העלפט פון פירמע נעטוואָרקס יעדן חודש, האט די פאָרשונג געוויזן. אין דער זעלבער צייט, אן אנדער באַריכט פון סייבערהאַוון לאַבס לעצטן יאָר האָט געפֿונען אַז דאַטן-טיילונג מיט קינסטלעכע אינטעליגענץ מכשירים איז כּמעט פֿינף מאָל געוואַקסן אין איין יאָר צווישן מערץ 2023 און מערץ 2024. דאָס וואָלט געווען גוט אויב די נוצן וואָלט געווען אַלע סאַנקציאָנירט. אָבער, דריי-פֿערטל פֿון די נוצן פֿון ChatGPT אין אַרבעטספּלעצער פּאַסירט דורך פּערזענלעכע אַקאַונטס וואָס זענען נישט באַגרענעצט דורך קאָרפּאָראַטיווע זיכערהייט קאָנטראָלן, האָט סייבערהאַוון געזאָגט.
ארבייטער זענען נישט שטענדיק דיסקרעט וועגן וואָס זיי טיילן מיט די מכשירים, מיט כּמעט איינער אין פיר וואָס מודה זיין אַז זיי טיילן סענסיטיווע אַרבעט אינפֿאָרמאַציע מיט זיי הינטער זייער באַלעבאָס'ס רוקן. טשעק פּוינט ריסערטש האט געפונען אַז 1.25% פון אַלע פּראָמפּטס שטעלן אַ הויך ריזיקירן פון סענסיטיווע דאַטן ליקאַדזש, און נאָך 7.5% פון פּראָמפּטס האָבן אַנטהאַלטן פּאָטענציעל סענסיטיווע דאַטן.
די סארט אינפארמאציע וואס קומט אריין אין די סיסטעמען גייט פון קאסטומער שטיצע אינפארמאציע (16.3%) ביז קוואל קאוד, פארשונג און אנטוויקלונג מאטעריאלן, און פינאנציעלע דאקומענטן, האט סייבערהעיוון געזאגט.
רעאַלע אינצידענטן אילוסטרירן וואָס שטייט אויף דער שפּיל. אין אַפּריל 2023, סאַמסונג האָבן זיך אָנגעשטויסן מיט אַ גרויסער בושה ווען אינזשענירן האָבן געטיילט האַלב-קאָנדוקטאָר קוואַל קאָד און פּראַפּרייאַטערי זיצונג נאָטיצן.
איז מיין דאַטן טאַקע אין ריזיקע?
פירמעס קענען אפשר מוחל זיין פארן טראכטן אז זייערע דאטן זענען זיכער פארשפארט אויב עס קומט יא אריין אין אן AI סעסיע, אבער דאס איז נישט שטענדיג דער פאל. עס זענען דא פארשידענע ליק וועקטאָרן. למשל, אסאך AI סערוויסעס ניצן אויסדריקליך אינפוט דאטן פאר מאָדעל טרענירונג. דאס נעמט אריין OpenAI'ס פרייע ChatGPT ווערסיע און די פרייע ווערסיע פון Microsoft Copilot אויף וועלכער עס איז באזירט. דאס קען אויפדעקן שטיקלעך פון אייער פירמע'ס דאטן צו אנדערע באניצער דורך די AI'ס ענטפערס.
שנעלע אינדזשעקשאַן אטאקעס קענען נאַרן קינסטלעכע אינטעליגענץ סיסטעמען צו אַנטפּלעקן פריערדיקע שמועסן אָדער טראַינינג דאַטן, אין עסענץ דרייען די קינסטלעכע אינטעליגענץ קעגן זיך צו עקסטראַקטירן אינפֿאָרמאַציע וואָס עס זאָל נישט טיילן. די ראַנג איצט ווי OWASP'ס #1 קינסטלעכע אינטעליגענץ זיכערהייט ריזיקירן, רעכט צו זייער פּאָטענציעלער פּראַל. זיי געבן אַטאַקירער די מעגלעכקייט צו מאַניפּולירן קינסטלעכע אינטעליגענץ סיסטעמען דורך קראַפטינג קערפאַלי אויסגעאַרבעטע פּראַמפּץ וואָס עקסטראַקטירן סענסיטיווע טראַינינג דאַטן אָדער אַרומגיין זיכערהייט מיטלען.
דאטן בריטשעס ביי קינסטלעכע אינטעליגענץ פּראַוויידערז אַליין שאַפֿן עקספּאָוזשער ריסקס. ווען די קאָמפּאַניעס ווערן כאַקט, ווערן אייערע סענסיטיווע פּראָמפּטס אַ טייל פון די גע'גנב'עטע דאַטאַבאַזע. OpenAI איז געצוואונגען געוואָרן צו וואָרענען באַניצער אין 2023 נאָך אַ באַג אין זיין Redis דאַטאַבאַזע. יקספּאָוזד עטלעכע באַניצערס' שמועסן צו אַנדערע. מיט OpenAI איצט אונטער אָרדערס נישט צו אויסמעקן באַניצער פֿראַגעס אלס טייל פון א ניו יארק טיימס געריכט קעיס, האלט עס יעצט פריוואטע שמועסן וואס קענען זיין אויסגעשטעלט צו א געלונגענעם העק.
דער אָפּשטאַם און זיכערהייט פון די מאָדעלן איז אויך מאַנטשמאָל צווייפלדיק. מיט מער כינעזישע מאָדעלן איצט בנימצא און טיף קאַנסערנז איבער דער זיכערהייט פון דעם כינעזישן מאָדעל DeepSeek, איז שאָטן AI אַ קלאָרע און איצטיקע סכּנה.
מאָניטאָרינג שאָטן קינסטלעך אינטעליגענץ איז שווער
עס איז גרינג פֿאַר שאָטן קינסטלעכער אינטעליגענץ (AI) צו פֿאַרגעסן, ספּעציעל מיט די סערוויסעס וואָס ווערן לאָנטשט שנעלער ווי IT אָפּטיילונגען קענען זיי עוואַלויִרן. AI קייפּאַבילאַטיז וואָס זענען איינגעוואָרצלט אין באַשטעטיקטע אַפּליקאַציעס וועלן זיין נישט קענטיק פֿאַר קאַנווענשאַנעלע דעטעקציע סיסטעמען, און עס קען זיין שווער צו בלאָקירן בראַוזער-באַזירטע סעסיעס. בלאָק ליסטעס זענען מעגלעך נישט באַוואוסטזיניק וועגן אַלע AI סערוויסעס, און אין יעדן פֿאַל, עטלעכע עמפּלוייז קענען זיין ערלויבט צו נוצן זיי בשעת אַנדערע נישט. דערנאָך, זענען דאָ API-באַזירטע ינטעראַקשאַנז און ענקריפּטעד קאָמוניקאַציעס צו באַטראַכטן.
צאַמען די קינסטלעכע אינטעליגענץ חיה
געגעבן קינסטלעכע אינטעליגענץ'ס צוזאג פון פארגרעסערטע פּראָדוקטיוויטעט, פשוט עס אינגאנצן פארבאטן שיינט קעגן דעם זין. אנשטאט, זיך פארנעמען מיט קינסטלעכע אינטעליגענץ מיט אכטונג דורך שאפן קינסטלעכע אינטעליגענץ באניץ פאליסיס איז מער רעאליסטיש, ספעציעל געגעבן די ארבעטער'ס גרייטקייט צו נוצן די סערוויסעס. א שטודיע פון ווייכווארג AG לעצטן אקטאבער. געפונען אז כמעט העלפט פון אלע ארבייטער וואלטן ווייטער געניצט פערזענליכע קינסטלעכע אינטעליגענץ מכשירים אפילו אויב זייער ארבעטסגעבער וואלט זיי פארבאטן.
מכשירים ווי NIST'ס AI ריזיקאָ מאַנאַגעמענט פריימווערק געבן אָרגאַניזאַציעס די געלעגנהייט צו נוצן די בענעפיטן פון AI בשעת זיי רעדוצירן אירע ריזיקאָס. NIST'ס פריימווערק ניצט אַ 'רעגירן, מאַפּירן, מעסטן און פירן' צוגאַנג, וואָס נעמט אריין מיטלען אונטער יעדער פון די קעפּלעך צו געבן אָרגאַניזאַציעס די מעגלעכקייט צו אַדאַפּטירן אַ סטראַטעגישן צוגאַנג צו פירן די נוצן פון AI צווישן עמפּלוייז. ISO'ס 42001:2023 פריימווערק פֿאָרשלאָגט אויך ווי צו שאַפֿן און וישאַלטן AI מאַנאַגעמענט סיסטעמען פאַראַנטוואָרטלעך אין אָרגאַניזאַציעס.
אסאך פון די זעלבע פרינציפן גענוצט צו באקעמפן טראדיציאנעלע שאָטן-אי-טי זענען אויך גילטיק. אויפשטעלן אינערלעכע AI אַפּ סטאָרס מיט באַשטעטיקטע געצייַג קאַטאַלאָגן קען העלפֿן צושטעלן ניצערס מיט מער ברירות בשעת זיי האַלטן גלייַכבערעכטיקע גאַרדריילז פֿאַר באַניץ. דאָס גיט איר אויך מער טראַקשאַן ווען איר אויפשטעלן פּאַסיקע באַניץ פּאָליטיק פֿאַר AI, וואָס זאָגן עמפּלוייז וואָס סאָרט פון פֿראַגעס זענען אָקיי (און נישט אָקיי) צו מאַכן. טריינינג פּראָגראַמען פֿאַר עמפּלוייז וועלן העלפֿן פעסטשטעלן די פּאָליטיק בשעת זיי אויך מאַכן זיי מער פּראָדוקטיוו דורך זיי אויספֿילן אויף קלוגע AI באַניץ קאַסעס.
פֿאַר עטלעכע אָרגאַניזאַציעס, וועט דער איבערגאַנג צו פּריוואַטע קינסטלעכע אינטעליגענץ סיסטעמען וואָס נוצן זעלבסט-האָסטעט גרויסע שפּראַך מאָדעלן העלפֿן מינימיזירן דעם ריזיקאָ פֿון עקסטערנע קינסטלעכע אינטעליגענץ אַפּליקאַציעס. אָבער, פֿאַר פֿילע, וועט דאָס נאָך אַלץ זיין אַ גרויסע פֿאַרלאַנג, וואָס וועט פֿאַרלאַנגען באַדייטנדיקע עקספּערטיז און בודזשעט.
ווען עס קומט אן א נייע טעכנאלאגיע, וועלן ארבייטער זיכער וועלן עקספערימענטירן. מיר האבן עס געזען מיט מאבילע דעווייסעס און דערנאך מיט די וואלקן. קינסטלעכע אינטעליגענץ וועט נישט זיין די לעצטע. דער שליסל איז צו אננעמען א באגריסנדיקע און פאראנטווארטלעכע שטעלונג צו טעכנאלאגיע באנוץ און זיי צוריקברענגען אין די ארבעט.
