קינסטלעך סייכל איז דערגייונג זיין וועג אין אַלץ פון קאַץ פלאַפּס צו 'קלוג' באַקיאַרד גרילז - און פון קורס, איר קענען נישט עפענען קיין מאָדערן פאַרנעמונג ווייכווארג אָן זען אַ סאָרט פון אַי אַסיסטאַנט פּאַוערד דורך אַ גרויס שפּראַך מאָדעל (LLM). אָבער ווי די טעכנאָלאָגיע ווערט שווער צו ויסמיידן, טאָמער מיר זאָל טראַכטן וועגן ווי מענטשן קענען זידלען עס.
מיר רעדן נישט וועגן ווי סייבער קרימאַנאַלז קענען נוצן גרויס שפּראַך מאָדעלס (LLMs) צו שרייַבן פישינג ימיילז אָדער כאַק וועבסיטעס דאָ. אלא, מיר באַטראַכטן ווי אַטאַקערז קען קאָמפּראָמיס לאַדזשיטאַמאַט אַי סיסטעמען צו גאַנווענען דאַטן, פאַרשפּרייטן מיס אינפֿאָרמאַציע אָדער אפילו שיקן מאַשינז.
די וואַלנעראַביליטיז לערקינג אין LLMs
איינע פון די מערסטע געוויינטלעכע אזעלכע אטאקעס איז שנעלע מאניפולאציע. אטאקירער האבן געוויזן ווי אזוי צו פארמינדערן פארשידענע LLM'ס זיכערהייט גארדריילס (באקאנט אלס דזשעילברעקינג) ניצנדיג טעכניקן ווי ראלע שפיל און אפילו אריינשרייבן גיבעריש.
פּראָמפּט אינדזשעקשאַנז קענען טאָן מער ווי נאָר באַקומען אַן LLM צו געבן אינסטרוקציעס פֿאַר אומלעגאַלע אַקטיוויטעטן אָדער שרייַבן פישינג אימעילס. פאָרשער האָבן זיי געניצט פֿאַר דאַטן עקספילטריישאַן. למשל, AI זיכערהייט פירמע PromptArmor האט אָפּגענאַרט סלאַקס AI אַסיסטאַנט אין ליקן סודות ווי API שליסלען פֿון פּריוואַטע קאַנאַלן.
שנעלע אינזשעניריע שאַפט געלעגנהייטן פֿאַר דאַטן גנייווע. קינסטלעכע אינטעליגענץ סיסטעמען קענען אַומבאַוואוסטזיניק אויפדעקן סענסיטיווע דאַטן דורך באַגז אָדער פּלאַן חסרונות. מאל קענען דאָס זיין גליטשיז, ווי ווען אַ ChatGPT באַג האָט ארויסגעלאָזט באַניצערס פּריוואַטע אינפֿאָרמאַציע, אַרייַנגערעכנט צאָלונג דעטאַילס, אין מערץ 2023. אַנדערע אַטאַקעס נוצן שנעלע אינדזשעקשאַן מיט ליסטיגע טאַקטיקן ווי ענדערן טעקסט אַזוי אַז אַ בייזוויליקע פּראָמפּט איבערצייגט אַן LLM צו איבערגעבן דאַטן בשעת עס איז אומפאַרשטענדלעך פֿאַר מענטשלעכע קרבנות.
אין עטלעכע סינעריאָוז, ריסערטשערז קען זיין ביכולת צו נוצן פּינטלעך ינזשעניעריע צו ויסשטעלן די אָריגינעל טריינינג דאַטן פון די מאָדעל. אין אַ מאָדעל ינווערזשאַן באַפאַלן, אַ קעגנער קענען ויספאָרשן די LLM, ניצן די רעספּאָנסעס צו אָנפירן טינגז וועגן די טריינינג דאַטן און יווענטשאַוואַלי פאַרקערט ינזשעניר עטלעכע פון די דאַטן נאָך דעם פאַקט.
עטלעכע האָבן סאַגדזשעסטיד ניצן מאָדעל ינווערזשאַן צו עקסטראַקט נאָענט אַפּראַקסאַמיישאַנז פון די בילדער געניצט צו באַן פאַסיאַל דערקענונג מאָדעלס. דאָס ריסקס צו ידענטיפיצירן שפּירעוודיק אָדער שפּירעוודיק מענטשן אָדער געבן אַנאָטערייזד אַקסעס צו רעסורסן.
עס דאַרף נישט נאָר זײַן טעקסט-באַזירטע אײַנגאַבן וואָס פּראָדוצירן שלעכטע רעזולטאַטן. בילדער און אַנדערע דאַטן קענען אויך האָבן נעגאַטיווע ווירקונגען אויף קינסטלעכער אינטעליגענץ. למשל, פֿאָרשער האָבן געצוואונגען זעלבסט-פֿאָרנדיקע אויטאָס צו איגנאָרירן סטאָפּ-צייכנס דורך צולייגן סטיקערס צו זיי און צו זען סטאָפּ-צייכנס וואָס זענען נישט דאָרט דורך פּראַיעקטירן אַ פּאָר ראַמען אויף אַ בילבאָרד – ביידע פון וואָס קענען האָבן קאַטאַסטראָפֿישע רעזולטאַטן אויף דער גאַס.
פאַרסאַמונג אַפּסטרים
אדער, קענען אנפאלער טוישן די קינסטלעכע אינטעליגענץ ארבעטס-פלוסן ווייטער ארויף דורך פאר'סמ'ן די דאטן פון וועלכע קינסטלעכע אינטעליגענץ סיסטעמען לערנען זיך. דאס קען ענדערן דעם וועג ווי דער מאדעל זיך אויפפירט, פארפעסטיקנדיג די ענד רעזולטאטן. עטלעכע פון די אטאקעס ווערן געטאן פאר עקאנאמישע אדער פאליטישע סיבות. פארשער האבן אנטוויקלט איין געצייג, נייטשייד , צו העלפן קינסטלער סובטיל ענדערן זייערע דיגיטאלע בילדער דורך אריינשטעלן אומזעבארע פיקסעלן אלס א פראטעסט קעגן LLM'ס טרענירונג אויף קאפירייט מאטעריאל. דאס פירט צו דעם אז בילד-גענעראציע פראגראמען זאלן פראדוצירן אומפארזעבארע רעזולטאטן.
דאטן-פאר'סמ'ונג דארף נישט זיין ווייט פארשפרייט צו האבן אן עפעקט, און ווען מען לייגט עס צו צו ספעציפישע דאטן-זאמלונגען ווי די וואס ווערן גענוצט אין מעדיצינישע סיסטעמען, קענען די רעזולטאטן זיין קאטאסטראפיש. איין שטודיע האט געפונען אז ענדערן בלויז 0.001% פון טרענירונג-טאוקענס מיט מעדיצינישע מיסאינפארמאציע האט באדייטנד פארגרעסערט די מעגלעכקייט פון מעדיצינישע טעותים.
ווי אַי האלט צו דורכדריקן וואָכעדיק לעבן, די פּאָטענציעל פֿאַר סיסטעם קאַמפּראַמייזיז צו פּראַל אויף געזעלשאַפט ינקריסיז. אַ קלוג אַטאַקער קען טאָן אַלץ פון קריייטינג דיסינפאָרמאַטיאָן צו פאַרשאַפן אַקסאַדאַנץ אויף די וועג, אַפעקטינג זיכערהייט-קריטיש דיסיזשאַנז אין געביטן אַזאַ ווי מעדיצין, אָדער האַלטן אַי פון דיטעקטינג פראָדזשאַלאַנט טראַנזאַקשאַנז.
פּראַטעקטינג אַי מאָדעלס
די מעגלעכקייטן פאר קאמפראמיסן מיט קינסטלעכער אינטעליגענץ זענען גענוג ווייטפארשפרייט – און זייערע פארמען ברייט גענוג – אז א פארשידענארטיגער צוגאנג צו קינסטלעכער אינטעליגענץ גאַווערנאַנס איז קריטיש. ISO 42001 , אן אינטערנאציאנאלער סטאַנדאַרט פאר קינסטלעכער אינטעליגענץ פאַרוואַלטונג סיסטעמען, נעמט א גאנצייטיקן צוגאנג, אריינגערעכנט געביטן ווי קינסטלעכער אינטעליגענץ'ס ארגאניזאציאנעלן קאנטעקסט און פירערשאפט באַטייליקונג. עס נעמט אויך אריין פּלאַנירונג, שטיצע, אָפּעראַציע, און אָנגייענדיקע עוואַלואַציע און פֿאַרבעסערונג. עס דיקטירט די אַנטוויקלונג פון טעכנישע ספּעציפֿיקאַציעס, אריינגערעכנט זיכערהייט און דאַטן קוואַליטעט, צוזאַמען מיט די דאָקומענטאַציע פון זיכערהייט פּראָטאָקאָלן צו באַשיצן קעגן סכנות ווי דאַטן פאַרסאַמונג און מאָדעל ינווערזשאַן אנפאלן.
רעגירונגען האבן זיך באוועגט צו שטעלן זיכערהייט באגרענעצונגען אויף קינסטלעכער אינטעליגענץ (AI). די אי.יו.'ס AI אקט פארלאנגט א קאנפארמאנס אפשאצונג פאר הויך-ריזיקירטע סיסטעמען, וואס נעמט אריין קאנפארמאציע מיט טעסט רעקווייערמענטס וואס זענען נאך אונטער אנטוויקלונג. אין די פאראייניגטע שטאטן, האט די נאציאנאלע אינסטיטוט פון סטאנדארטן און טעכנאלאגיע (NIST) שוין געהאט אן AI ריזיקע מענעדזשמענט פריימווערק (RMF) איידער די ביידען אדמיניסטראציע האט ארויסגעגעבן איר עקזעקוטיוו ארדער 14110 וועגן AI זיכערהייט אין אקטאבער 2023 (איצט אפגערופן דורך די טראמפ רעגירונג). דאס האט גערופן פאר א קאמפלעמענטארע דזשענעראטיווע AI ריזיקע מענעדזשמענט רעסורס, וואס NIST האט ארויסגעגעבן לעצטן יוני.
ניט ענלעך NIST ס AI RMF, ISO 42001 איז סערטאַפייד. און כוועראַז NIST פאָוקיסיז שווער אויף די זיכערקייַט און זיכערהייט פון אַי סיסטעמען, ISO 42001 יקספּלאָרז זייער ראָלע אין אַ ברייט געשעפט קאָנטעקסט.
פארוואס AI גאַווערנאַנס איז וויכטיק איצט
פריימווערקס ווי די ווערן אלץ מער וויכטיג ווי גרונטלעכע LLM מאָדעל פּראַוויידערז לויפן צו צושטעלן נייע פֿעיִקייטן וואָס וועלן פֿאַרכאַפּן קאָנסומערס. דורך דעם, פֿאַרגרעסערן זיי די אַטאַק ייבערפלאַך פון די AI מאָדעלס, וואָס דערמעגלעכט זיכערהייט פאָרשער צו געפֿינען נייע עקספּלויץ. למשל, קאָמפּאַניעס ווי OpenAI און Google האָבן אײַנגעפֿירט לאַנג-טערמין זכּרון קייפּאַבילאַטיז אין זייערע LLMs, דערמעגלעכנדיג זיי צו באַקענען זיך מיט באַניצער מער אינטימע און צושטעלן בעסערע רעזולטאַטן. דאָס האָט דערמעגלעכט דעם פאָרשער Johann Rehberger צו נוצן פּראָמפּט ינדזשעקשאַן וואָס קען פּלאַנצן פאַלשע לאַנג-טערמין זכרונות אין Google's Gemini LLM.
עס איז אויך ווערט צו אויספארשן די זיכערהייט פון קינסטלעכע אינטעליגענץ מאָדעלן אין דעם קאָנטעקסט פון גרונטלעכער סייבער-היגיענע. אין יאַנואַר 2025, האָבן פאָרשער אויפגעדעקט אַ דאַטן בריטש ביים כינעזיש-אינזשענירטן יסודותדיקן LLM DeepSeek, וואָס האָט געכאפט די פאַנטאַזיע פון דער עפנטלעכקייט מיט זיין הויכער פאָרשטעלונג. די סיבה פון דעם דאַטן בריטש האָט גאָרנישט געהאַט צו טאָן מיט שנעלער אינזשעניריע, מאָדעל ינווערזשאַן, אָדער קיין מאַגישע קינסטלעכע אינטעליגענץ קייפּאַבילאַטיז; עס שטאַמט פון אַ עפנטלעך אויפגעדעקטער וואָלקן דאַטאַבייס מיט שמועס געשיכטעס און באַניצער דעטאַילס. אין דער אויפרעגענדער נייער וועלט פון קינסטלעכער אינטעליגענץ, זענען עטלעכע פון די מערסט שעדלעכע וואַלנעראַביליטיז דעפּרעסיוו אַלטמאָדיש.
