וואָס DeepSeek דערציילט אונדז וועגן סייבער ריזיקירן און גרויס שפּראַך מאָדעלס

ניט פילע קאָמפּאַניעס קענען איין-כאַנדידלי ווישן אויס $ 1 טריליאַן אין מאַרק קאַפּיטאַליזיישאַן פון די יו. עס. לאַגער מאַרק. אָבער דאָס איז פּונקט וואָס כינעזיש אַי סטאַרטאַפּ DeepSeek געראטן אין די סוף פון יאנואר נאָך ינטראָודוסינג אַ נייַע מאָדעל וואָס איז קליימד צו אַרבעטן מיט אַ בראָכצאָל פון OpenAI ס קאָס מיט ענלעך רעזולטאַטן. זינט דעמאָלט, מארקפלעצער האָבן ריקאַווערד, און נייַעס פון ערנסט זיכערהייט און פּריוואַטקייט ישוז מיט די DeepSeek-R1 גרויס שפּראַך מאָדעל (LLM) און די פירמע 'ס פראָנט-ענד אַפּ איז ימערדזשד.

אָבער איידער CISOs ציילן די פּלייצעס און מאַך אויף, לאָזן אונדז שטעלן דעם אין קאָנטעקסט. נאָר ווייַל די DeepSeek טעכנאָלאָגיע איז געווען מיטן נאָמען הויך ריזיקירן, דאָס קען נישט מיינען אַז אנדערע מאָדעלס זענען גאָר אָן שולד. זיכערהייט טימז קען דאַרפֿן בעסטער פיר סטאַנדאַרדס צו העלפֿן זיי נאַוויגירן ריזיקירן אין דעם שנעל-יוואַלווינג פּלאַץ.

וואָס איז פאַלש מיט DeepSeek?

לויט איין שטיק פון פאָרשונג, DeepSeek-R1 האט צוויי הויפּט ישוז:

• עס איז שפּירעוודיק צו "דזשאַילברייקינג" דורך פּינטלעך ינדזשעקשאַן. אין אנדערע ווערטער, דורך אַרייַן ספּעציפיש פּראַמפּס, יוזערז קענען בייפּאַס די געבויט-אין זיכערקייַט גאַרדריילז ינסערטאַד דורך DeepSeek דעוועלאָפּערס - ריזאַלטינג אין עטלעכע אַנעטיקאַל און דאַונרייט געפערלעך אַוטפּוץ. צום ביישפּיל, ווען Kela ריסערטשערז פּראַמפּטיד די LLM צו אַדאַפּט אַ "בייז" פּערסאָנאַ, פריי פון עטישע אָדער זיכערקייַט קאַנסטריינץ, עס איז געווען גאַנץ צופרידן צו צושטעלן אַ ינפאָסטעאַלער מאַלוואַרע שריפט, פֿירלייגן אויף וואָס סייבער קריימז מאַרקאַץ צו באַזוכן, און אפילו גיידאַנס צו שאַפֿן אַ זעלבסטמאָרד דראָון
• עס איז פּראָנע צו "האַלוסאַניישאַנז" - למשל, צוגעשטעלט אַ רשימה פון פערזענלעכע אינפֿאָרמאַציע אויף עלטער OpenAI עמפּלוייז ווען פּראַמפּטיד, וואָס איז פאַלש

א באַזונדערער לערנען פון ענקריפּטאַי קאַנפערמז אַז DeepSeek איז פּראָנע צו צושטעלן מיס אינפֿאָרמאַציע און שעדלעך אינהאַלט. עס קליימז אַז דער מאָדעל איז:

• 3x מער בייאַסט ווי Claude-3 Opus
• 4 קס מער שפּירעוודיק צו דזשענערייטינג ינסאַקיער קאָד ווי OpenAI ס O1
• 4 קס מער טאַקסיק ווי GPT-4o
• 11 קס מער מסתּמא צו דזשענערייט שעדלעך רעזולטאַט קעגן OpenAI O1
• 3.5 קס מער מסתּמא צו פּראָדוצירן כעמישער, בייאַלאַדזשיקאַל, ראַדיאָלאָגיקאַל און יאָדער אינהאַלט (CBRN) ווי OpenAI O1 און Claude-3 Opus

נאָך זארגן וועגן די זיכערהייט פון DeepSeek ס צוריק-ענד ינפראַסטראַקטשער ימערדזשד נאָך איין זיכערהייט פאַרקויפער דיסקאַווערד אַ עפנטלעך צוטריטלעך דאַטאַבייס בילאָנגינג צו די פירמע, יקספּאָוזינג העכסט שפּירעוודיק דאַטן, אַרייַנגערעכנט קלאָץ סטרימז, אַפּי סיקריץ און אַפּעריישאַנאַל דעטאַילס.

באַזונדער אַנאַליסיס פֿון SecurityScorecard ריווילז אַ פּלאַץ פון זיכערהייט און פּריוואַטקייט ישוז מיט די DeepSeek אַנדרויד אַפּ, אַרייַנגערעכנט:

• שוואַך זיכערהייט, אַזאַ ווי שווער קאָדעד ענקריפּשאַן שליסלען, שוואַך קריפּטאָגראַפיק אַלגערידאַמז און סקל ינדזשעקשאַן ריסקס
• צו ברייטע דאַטן זאַמלונג אויף יוזערז, אַרייַנגערעכנט ינפּוץ, מיטל דעטאַילס און קיסטראָוק פּאַטערנז, אַלע וואָס זענען סטאָרד אויף סערווערס אין טשיינאַ
• אַנדיסקלאָוזד דאַטן ייַנטיילונג מיט כינעזיש שטאַט-אָונד ענטערפּריסעס און TikTok פאָטער ByteDance, און ווייג פּריוואַטקייט פּאַלאַסיז

אַנטי-דיבאַגינג טעקניקס וואָס זענען יוזשאַוואַלי דיפּלויד צו פאַרהאַלטן זיכערהייט אַנאַליסיס.

ליפטינג די דעקל אויף LLM ריסקס

אָבער, כאָטש קאָנקורענט מאָדעלס ווי OpenAI ס זענען געדאַנק צו זיין פיל מער זיכער, עס וואָלט זיין נאַריש צו יבערנעמען אַז די ריסקס כיילייטיד דורך DeepSeek-R1 זענען נישט פאָרשטעלן אנדערש.

"די אַנפאָולדינג DeepSeek אינצידענט זאָל ניט זיין עקספּלויטאַד ווי אַ באַקוועם סיבה צו פּלוצלינג פאַרגעסן וועגן ערנסט ווייאַליישאַנז און אַי-פֿאַרבונדענע ריסקס געשטעלט דורך אנדערע GenAI ווענדאָרס. אַנדערש, מיר פעלן די וואַלד פֿאַר די ביימער," טענהט ImmuniWeb סעאָ, Platt Law סייבערסעקוריטי שוטעף און קאַפּיטאָל טעכנאָלאָגיע אוניווערסיטעט פּראָפעסאָר יליאַ קאָלאָטשענקאָ.

צי אָרגאַנאַזיישאַנז נוצן אַ דריט-פּאַרטיי LLM ווי DeepSeek אָדער אַנטוויקלען / פיין-טונינג איינער אין-הויז, זיי מוזן זיין אַווער פון ווי עס קענען יקספּאַנד די פֿירמע באַפאַלן ייבערפלאַך. פּאָטענציעל ריזיקירן פונקטן אַרייַננעמען די מאָדעל זיך, די דאַטן וואָס עס איז טריינד אויף, קיין אַפּיס, דריט-פּאַרטיי אָפֿן-מקור לייברעריז, פראָנט-סוף אַפּלאַקיישאַנז און צוריק-ענד וואָלקן ינפראַסטראַקטשער.

OWASP האט צונויפגעשטעלט a Top 10 פֿאַר LLM אַפּפּליקאַטיאָנס ליסטינג די הויפּט זיכערהייט ישוז - עטלעכע פון ​​​​וואָס ימפּאַקטיד DeepSeek. די זענען:

1. פּינטלעך ינדזשעקשאַן וואַלנעראַביליטיז וואָס קענען זיין עקספּלויטאַד דורך קראַפטינג ספּעציפיש ינפּוץ צו טוישן די נאַטור פון די מאָדעל, בייפּאַסינג זיכערקייַט פֿעיִקייטן.
2. אַנטפּלעקונג פון שפּירעוודיק אינפֿאָרמאַציע וואָס קען אַרייַננעמען פֿירמע סיקריץ אָדער קונה דאַטן.
3. סופּפּלי קייט וואַלנעראַביליטיז, אַזאַ ווי באַגז אין אָפֿן מקור קאַמפּאָונאַנץ, וואָס קען זיין עקספּלויטאַד צו שאַפֿן אַנינטענדיד אַוטפּוץ, גאַנווענען שפּירעוודיק דאַטן אָדער פאַרשאַפן סיסטעם דורכפאַל.
4. דאַטן און מאָדעל פאַרסאַמונג, ווו פאַר-טריינינג, פיין-טונינג אָדער עמבעדדינג דאַטן זענען מאַניפּיאַלייטיד צו באַקענען וואַלנעראַביליטיז, באַקדאָרז אָדער בייאַסיז.
5. אומרעכט רעזולטאַט האַנדלינג, ריזאַלטינג פון ניט גענוגיק וואַלאַדיישאַן, סאַניטיזיישאַן און האַנדלינג, וואָס קען פירן צו כאַלוסאַניישאַנז אָדער ינטראָודוסינג זיכערהייט וואַלנעראַביליטיז.
6. יבעריק אַגענטור סטעמס פון יבעריק פאַנגקשאַנאַליטי, פּערמישאַנז און / אָדער זעלבסט-פאַרוואַלטונג און קען פירן צו אַ פּלאַץ פון נעגאַטיוו אַוטקאַמז, אַרייַנגערעכנט בריטשיז און העסקעם ישוז.
7. סיסטעם פּינטלעך ליקאַדזש, וואָס אַקערז ווען סיסטעם פּראַמפּס אַנטהאַלטן שפּירעוודיק אינפֿאָרמאַציע, אַלאַוינג אַטאַקערז צו וועפּאַנז דעם ינסייט.
8. וועקטאָר און עמבעדדינג וויקנאַסאַז זענען ספּעציפיש פֿאַר LLM סיסטעמען ניצן ריטריוואַל Augmented Generation (RAG) און קען זיין עקספּלויטאַד צו אַרייַנשפּריצן שעדלעך אינהאַלט, מאַניפּולירן מאָדעל אַוטפּוץ אָדער אַקסעס שפּירעוודיק אינפֿאָרמאַציע.
9. פאַלש אינפֿאָרמאַציע, וואָס סטעמס לאַרגעלי פון כאַלוסאַניישאַנז.
10. אומבאגרענעצט צרכוך, וואָס שטאַמט פון "יבעריק און אַנקאַנטראָולד ינפעראַנסאַז" און קען פירן צו אָפּלייקענונג פון דינסט.

קען ISO 42001 הילף?

די גוטע נייַעס איז אַז CISOs זוכן צו כאַרניס די מאַכט פון LLMs אין זייער אַפּעריישאַנז און / אָדער צו צושטעלן צו קאַסטאַמערז קענען טאָן דאָס אויף אַ וועג וואָס מיטאַגייץ די ריסקס, דאַנק צו אַ גראַונדברייקינג נייַע נאָרמאַל. יסאָ קסנומקס גיט אַ פריימווערק צו פאַרלייגן, ינסטרומענט, טייַנען און קעסיידער פֿאַרבעסערן אַן אַי מאַנאַגעמענט סיסטעם (AIMS). קאַווערינג די גאנצע לייפסייק פון אַי סיסטעמען, עס העלפּס אָרגאַנאַזיישאַנז צו:

• ימבעד עטישע פּרינסאַפּאַלז אין די אַי צו ויסמיידן פאָרורטייל און רעספּעקט מענטשנרעכט
• פאַרגרעסערן די דורכזעיקייַט פון אַי סיסטעמען און אַלגערידאַמז אין סדר צו פירן צוטרוי און אַקאַונטאַביליטי
• ידענטיפיצירן, אַססעסס און פאַרמינערן ריסקס ווי די כיילייטיד דורך OWASP און געפֿונען אין DeepSeek
• פאַרבעסערן העסקעם דורך אַליינינג אַי אַפּעריישאַנז מיט יגזיסטינג לעגאַל און רעגולאַטאָרי פראַמעוואָרקס
• שטיצן אַ קולטור פון קעסיידערדיק פֿאַרבעסערונג אין אַי סיסטעם פאַרוואַלטונג

קאָלאָטשענקאָ דערציילט ISMS.online אַז אַזאַ סטאַנדאַרדס זענען נישט אַ פּאַנאַסיאַ אָבער קענען דינען אַ ווערטפול ציל.

"דער ראָמאַן ISO 42001 נאָרמאַל וועט זיכער ברענגען ווערט צו פּלאָמבירן די רעגולאַטאָרי וואַקוום אין די מעלוכע פון ​​אַי, כאָטש ינסאַדאַנץ ינוואַלווינג אַי - אַרייַנגערעכנט זייער ערנסט אָנעס - וועט מסתּמא פאָרזעצן צו וואַקסן עקספּאָונענשאַלי," ער טענהט.

קאָריאַן קעננעדי, סעקוריטי סקאָרקאַרד עלטער סאַקאָנע ינסייץ און אַטריביושאַן פאַרוואַלטער, גייט ווייַטער.

"ביידע ISO 42001 און ISO 27001 צושטעלן גאַווערנאַנס און זיכערהייט פראַמעוואָרקס וואָס העלפֿן פאַרמינערן ריסקס פון ינסאַקיער דריט-פּאַרטיי אַפּפּס ווי DeepSeek און הויך-ריזיקירן LLMs - צי פונדרויסנדיק אָדער ינעווייניק געבויט," ער דערציילט ISMS.online.

"צוזאַמען, זיי העלפֿן צו רעדוצירן ריסקס פון ינסאַקיער אַי מאָדעלס דורך ענפאָרסינג שטרענג גאַווערנאַנס, פארשטארקן רעגולאַטאָרי העסקעם צו פאַרמייַדן אַנאָטערייזד דאַטן ויסשטעלן, און באַוואָרענען ינערלעך אַי סיסטעמען מיט אַקסעס קאָנטראָלס, ענקריפּשאַן און פאַרקויפער רעכט דיליץ."

אָבער, קעננעדי ווייזט אַז כאָטש ISO 42001 קענען צושטעלן אַ "האַרט יסוד פֿאַר אַי זיכערהייט, פּריוואַטקייט און גאַווערנאַנס", עס קען פעלן קאָנטעקסטואַל געשעפט ריזיקירן.

"דעריבער, עס איז די פֿאַראַנטוואָרטלעכקייט פון יענע אין סייבער פאַרטיידיקונג צו ינסטרומענט נאָך קאָנטראָלס באזירט אויף דעם קאָנטעקסט פון די סאַקאָנע לאַנדשאַפט און אין שטיצן פון די געשעפט," ער טענהט.