א לעצטיגע אינצידענט האט אויפגעוועקט זארגן וועגן ווי דאטן ווערט באהאנדלט דורך GenAI מכשירים. איז עס צייט צו זיכער מאכן אז אייערע דאטן לאנדן נישט אין זייערע LLMs? דן רייוואוד קוקט אויף די אפציעס.
אַ קלוגער מענטש האָט אַמאָל געזאָגט אַז וואָס מען לייגט אויף דער אינטערנעץ בלייבט אויף דער אינטערנעץ. ספּעציפֿיש, דאָס וואָלט געווען אין באַצוג צו סאָציאַלע מידיאַ, פֿייסבוק בפֿרט.
אין דעם יאָרצענדלינג, איז די אַרויסרופן ווייניקער וועגן אַנטפּלעקן אינהאַלט אויף סאציאלע מידיאַ און מער וועגן וואָס איר האָט אַרײַנגעלייגט אין גענעראַטיווע קינסטלעכע אינטעליגענץ און גרויסע שפּראַך מאָדעלן (LLMs), וואָס דאַן האַלטן, פּראָצעסירן און האַלטן די דאַטן צו געבן בעסערע פרטים אין ריקוועסץ און זוכ רעזולטאַטן.
אבער, יעדע צוטרוי אין GenAI'ס זיכערהייט איז געשאקלט געווארן אין זומער ווען טויזנטער גראָק שמועס טראַנסקריפּטן זענען אויפגעדעקט געווארן, וואס האט ארויסגעוויזן ווי שנעל פּריוואַטע קינסטלעכע אינטעליגענץ שמועסן קענען ווערן עפנטלעך. פאר יחידים קען דאס זיין א שאַנד. פאר געשעפטן זענען די ריזיקעס פיל העכער, אויפדעקנדיק קונה דאַטן, אינטעלעקטועלע פאַרמעגן, אדער לעגאַלע סטראַטעגיעס, מיט קאנסעקווענצן פון שאָדן צו דער רעפּוטאַציע ביז רעגולאַטאָרישע קנסות.
פֿון טשאַטבאָט צו זוכמאַשין
לויט מעדיע באריכטן , יעדעס מאל וואס א שמועס איז געווארן געטיילט מיטן גראָק באָט, איז א יינציקע URL געווארן גענערירט און צוגעשטעלט פאר זוכמאשינען. רוב באַניצער האבן נישט געוואוסט אז די לינקס ווערן אויטאמאטיש אינדעקסירט, דאס מיינט אז יעדער קען זיי געפינען אויף דער אינטערנעץ.
דאמיאן טשונג, ביזנעס אינפארמאציע זיכערהייט אפיציר ביי נעטסקאָפּ, זאגט צו IO אז ער גלויבט אין דעם פאל, איז נאר די שמועס היסטאריע אויפגעדעקט געווארן, אבער דאס איז געווען "גאנץ באזארגנד ווייל מען טראכט נישט אז ווען מען טיילט די קינסטלעכע אינטעראקציעס אז זיי קענען ווערן פובליק."
אבער, ער גלויבט אז דער אינצידענט הייבט כאטש אן אויפמערקזאמקייט וועגן דעם סארט ריזיקע, ווייל "מיר קוקן נישט אויף וואספארא זיכערהייט קאנטראלן זענען ארום די LLMs, ממילא זאלט איר נישט בלינדערהייט דערלויבן קיין אינפארמאציע אריינצוגיין אין זיי."
פֿאַר געשעפֿטן, איז די לעקציע קלאָר: אַמאָל דאַטן פֿאַרלאָזן דיין סביבה, פֿאַרלירט איר קאָנטראָל דערפֿון. אפילו לכאורה ומשעדלעכע אַפּלאָודז קענען ווידער אויפֿקומען אויף וועגן וואָס איר האָט קיינמאָל נישט בדעה געהאַט.
שאָטן קינסטלעכע אינטעליגענץ און די ריזיקע פון ליקאַדזש
גראָק, אַ פּראָדוקט פֿון עלאָן מאַסק'ס xAI פֿירמע און אָפֿט געניצט אויף X, איז איצט איינער פֿון הונדערטער GenAI סערוויסעס וואָס זענען פֿאַראַן. אויב מען קען דורכליקן שמועסן וואָס דער באַטייליקטער האָט געגלויבט זענען פּריוואַט, צי כאָטש נישט אַנטפּלעקט, וואָס האַלטן אַנדערע וואָס קען דורכגעליקט צי דורכגעבראָכן ווערן?
טשונג זאגט אז מיר זענען פרי אין דער עוואלוציע פון GenAI, און ס'איז גוט צו האבן באוואוסטזיין וועגן ריזיקעס, אבער אויך נישט דערשרעקן באנוצער פון עס ניצן.
מעט בירד, דירעקטאר פון סייבער-זיכערהייט און קינסטלעכע אינטעליגענץ כידעש ביי אל-פוינטס פייבער נעטווארקס, זאגט עס קלאר: "צי עס איז סענסיטיווע אדער אלגעמיינע דאטן, די סכנות זענען זיכער רעאל אין דעם הינזיכט, פון אומפארזיכטיקע אנטפלעקונג פון קאסטומער אינפארמאציע ביז ליעק פון אינערליכע סטראטעגיע דאקומענטן, די קאנסעקווענצן קענען זיין פון רעפוטאציע שאדן ביז רעגולאטורישע שטראפן."
די ריזיקע ווערט פארשטארקט דורך שאָטן קינסטלעכע אינטעליגענץ. ארבייטער וואָס ווענדן זיך צו נישט-באשטעטיגטע מכשירים פֿאַר פּראָדוקטיוויטעט פֿאַרבעסערונגען קענען אַנטפּלעקן קאָנפֿידענציעלע מאַטעריאַל אָן זיך דערפון צו באַמערקן. אַמאָל אינפֿאָרמאַציע ווערט אינדעקסירט אָנליין, קען עס בלייבן לאַנג נאָכדעם וואָס די אָריגינעלע שמועס ווערט אויסגעמעקט.
פּאָליטיק, נישט פֿאַרווער
איין צוגאַנג איז צו בלאָקירן צוטריט צו קינסטלעכע אינטעליגענץ מכשירים אינגאנצן, אָבער זיכערהייט פירער וואָרענען אַז דאָס איז נישט עפעקטיוו. ווי טשונג באַמערקט, "אויב איר טוט דאָס, וועט דער באַניצער געפֿינען אַן אַנדער וועג צו נוצן עס. דורך בלאָקירן עס, באַקומען מיר נישט דאַווקע די זעלבע מדרגה פון זיכערהייט וואָס מיר טראַכטן מיר באַקומען."
אנשטאט, פֿאָרשלאָגן עקספּערטן צו ערמעגלעכן די נוצן פֿון קינסטלעכער אינטעליגענץ אונטער קלאָרע כּללים און זיכערהייטס-מיטלען. בירד זאָגט אַז די באַלאַנס ליגט אין "בויען אַ ראַם פֿון טעכנישע און נאַטור-קאָנטראָלן" צו באַשיצן אָרגאַניזאַציאָנעלע דאַטן. עס גייט וועגן "ווײַזן שטאַב די בענעפֿיטן פֿון זיכער נוצן די מכשירים, און זיכער מאַכן אַז זיי האָבן קאָרפּאָראַטיוו אַקסעפּטאַבלע סיסטעמען פֿאַראַן, ווײַל לעצטendlich וועלן זיי זוכן אַן אַרומוועגונגס-מיטל אויב נישט."
אַנגעלאָ ריסבראַק, דיגיטאַלער פֿאַרטיידיקונג ספּעציאַליסט ביי פּראָנידוס סייבערסעקוריטי, איז מסכים אַז די לעצטע דורכברעכן אונטערשטרייַכן דעם הויפּט ריזיקע פֿאַר פֿירמעס: ווי אַרבעטער אינטעראַקטירן מיט די קינסטלעכע אינטעליגענץ מכשירים. אַרויפֿלאָדן סענסיטיווע אָדער אפילו לכאורה ומשעדלעכע דאַטן קען שנעל פֿירן צו אויפֿדעקונג. אַמאָל די דאַטן פֿאַרלאָזן דיין סביבה, פֿאַרלירט איר קאָנטראָל איבער זיי.
פּראַקטיש סאַלושאַנז
וואָס קענען אָרגאַניזאַציעס דען רעאַליסטיש טאָן צו רעדוצירן דעם ריזיקאָ פֿון אויסשטעלן זיך? די ISMS מיט וועמען מען האָט גערעדט האָבן מסכים געווען אַז די ענטפֿער ליגט אין בויען סטרוקטורירטע, שיכטיקע פֿאַרטיידיקונגען.
ריסברעק באמערקט אז רוב ארגאניזאציעס האבן שוין אקצעפטירבארע באנוץ אדער איי-טי פאליסיס, און יענע זענען דער נאטירלעכער אנפאנגספונקט. "אויב דער יסוד עקזיסטירט, בויט אויף אים" אנשטאט אנצוהייבן פון פריש. ער ווארנט אבער אז פאליסיס אויף פאפיר זענען נישט גענוג, און ארבייטער דארפן ווערן באוואוסטזיניק געמאכט וועגן די רעגולאציעס פון אנפאנג און רעגלמעסיג דערמאנט וועגן זייערע אחריותן.
בירד באַטאָנט די נויטווענדיקייט צו פאָקוסירן אויף ערמעגלעכן זיכערע נוצן אונטער דעפינירטע גאַרדריילס: "מיר מוזן אָננעמען קינסטלעכע אינטעליגענץ (AI) צוליב די עפעקטיווקייט וואָס עס ברענגט אונדז, אָבער דאָס מיינט נישט בלינדע אַדאָפּציע. דאָס מיינט בויען אַ פריימווערק פון טעכנישע און נאַטוראַלע קאָנטראָלן צו באַשיצן אונדזערע דאַטן און אונדזערע מענטשן."
פֿאַר ריסבראַק, מוזן די קאָנטראָלן אַרייַננעמען פּראַקטישע זיכערהייטן : "ניצן אינהאַלט פֿילטערינג, אַפּ שוץ פּאָליטיק און דאַטן אָנווער פאַרהיטונג צו האַלטן סענסיטיווע אינפֿאָרמאַציע פֿון פֿאַרלאָזן די אָרגאַניזאַציע." אין עטלעכע פֿאַלן, קען עס זיין פּאַסיק צו "בלאָקירן ריזיקאַלישע אַפּפּס, אָבער וווּ מעגלעך געבן שטעקן זיכערע אַלטערנאַטיוון."
בירד אונטערשטרייכט די וויכטיקייט פון אונטערשיידן צווישן באשטעטיגטע און נישט-באשטעטיגטע קינסטלעכע אינטעליגענץ מכשירים און שטעלן קלארע ערווארטונגען פאר ארבייטער: "איבער אלעם, זאלן אקצעפטירבארע באנוץ פאליסיס קלאר פארבאטן יעדע אינפארמאציע העכער 'פובליק' קלאסיפיקאציע צו ווערן געטיילט מיט נישט-באשטעטיגטע סערוויסעס."
די סארט מיטלען קענען ווייטער פארשטארקט ווערן דורך זיי צו פארבינדן מיט אנערקענטע פריימווערקן ווי ISO 27001 פאר אינפארמאציע זיכערהייט און ISO 42001 פאר קינסטלעכע אינטעליגענץ גאַווערנאַנס. דאס טאן העלפט זיכער מאכן אז פאליסיס, מאניטארינג, און ריזיקא מענעדזשמענט זענען נישט נאר קאנסיסטענט נאר אויך קאנטראלירבאר און פארטיידיגבאר קעגן רעגולאטורישע קאנטראל.
צוזאַמען גענומען, שאַפט די קאָמבינאַציע פון פריימווערקס, טעכנישע זיכערהייטן, און אָנגייענדיקע באַניצער-באַוואוסטזיין אַ קולטור וואו עמפּלוייז פֿאַרשטיין ביידע די בענעפיטן פון קינסטלעכע אינטעליגענץ מכשירים און די גרענעצן פון זיכערער באַניץ.
האַנדלט איצט, וואַרט נישט
בירד איז קלאר אז די צייט פאר צווייפל איז שוין אריבער, און ארגאניזאציעס זאלן נישט ווארטן אויף א דורכברוך נאר נעמען אקציע יעצט. "שאפט קלארע, באזונדערע פאליסיס פאר קינסטלעכע אינטעליגענץ באנוץ און אנטוויקלונג; מאכט זיכער אז זיי ווערן טראנספארענט מאניטארירט און טרענירט אייערע מענטשן. העכער אלעם, באהאנדלט קינסטלעכע אינטעליגענץ ווי א מעגלעכקייט וואס מען דארף אויסנוצן און נישט מורא האבן דערפון."
טשונג איז מסכים אז בלאקירן יעדע נייע קינסטלעכע אינטעליגענץ אפליקאציע איז נישט רעאליסטיש. מיט הונדערטער שוין פאראן און נייע וואס קומען ארויס כסדר, רעקאמענדירט ער אז ארגאניזאציעס זאלן באטראכטן לייכטערע אריינמישונגען, ווי למשל א "קאוטשינג" מעסעדזש איידער מען גייט אריין אין א GenAI וועבזייטל, דערמאנענדיג ארבייטער צו טראכטן גוט איבער וואס זיי טיילן.
ריסברעק באַטאָנט אַז די אויפֿגאַבע איז צו געפֿינען אַ באַלאַנס אין באַשיצן די דאַטן אָן צו דערשטיקן כידעש. די בעסטע רעזולטאַטן ווערן דערגרייכט דורך קאָמבינירן קלאָרע כּללים, באַניצער וויסיקייַט, טריינינג און טעכנישע זיכערהייטן. "אויף דעם וועג, עמפּלוייז וויסן די גרענעצן, האָבן די ריכטיקע מכשירים, און די אָרגאַניזאַציע פֿאַרמייַדט צו ווערן די ווייַטער כעדליין."
די עכטע לעקציע פֿון גראָק
דער גראָק ליק איז נישט דער ערשטער פאַל פון קינסטלעך אינטעליגענץ-גענערירטע שמועסן וואָס ווערן זוכבאַר אָנליין, און עס וועט נישט זיין דער לעצטער. פֿאַר געשעפטן, די עכטע לעקציע איז אַז צוטרוי אין GenAI זאָל קיינמאָל נישט ווערן אנגענומען.
דורך איינפירן פאליסיס, טעכנישע זיכערהייטס מיטלען, און שטאב באוואוסטזיין יעצט, קענען ארגאניזאציעס אויסנוצן די פראדוקטיוויטעט פון קינסטלעכער אינטעליגענץ בשעת'ן באשיצן זייערע מערסט ווערטפולע דאטן. ווארטן אויפן נעקסטן דורכברוך איז נישט קיין אפציע.
