שמועסן וועגן עקזיסטענציעלע קינסטלעכע אינטעליגענץ ריזיקע באַהאַלטן אַ מער דרינגענדיקע פּראָבלעם: אָרגאַניזאַציעס נוצן שוין קינסטלעכע אינטעליגענץ אָן עפעקטיווע גאַווערנאַנס אין פּלאַץ צו קאָנטראָלירן די טעכנאָלאָגיע.

זינט דעם יולי OpenAI-Hugging Face אינצידענט, איז די דיסקוסיע ארום AI ארויס פון גרויסן מאַסשטאַב. וואָס איז פריער געווען אַ דיסקוסיע ארום קאָנטראָל און מאָניטאָרינג איז שנעל געוואָרן אַ הייסע אַרגומענט וועגן עקזיסטענציעלע AI ריזיקעס.

פירער פון קינסטלעכע אינטעליגענץ פירמעס זאגן פאר ביזנעסער און רעגירונגען אז קינסטלעכע אינטעליגענץ קען פאראורזאכן מענטשלעכע אויסשטארבן , און ציען ארויס אומבאשטימטע פראצענט ציפערן צו "באווייזן" זייער פונקט. אבער די זיכערהייט קאמיוניטי האט גרויסענטייל אפגעווארפן די טענות, וואס זיי זאגן פארדעקן אן עכטע און יעצטיגע סכנה פון קינסטלעכע אינטעליגענץ.

טאקע, פאר ביזנעסער, קען זיך צו שטארק קאנצענטרירן אויף היפאטעטישע אויסשטארבן סצענארן פארדעקן א פיל מער דרינגענדע פראבלעם: ארגאניזאציעס נוצן שוין אריין קינסטלעכע אינטעליגענץ אין ארבעטספלאָוז, פראדוקטן און באשלוס-מאכן פראצעסן, אפט אן די נויטיגע גאווערנאַנס צו פארשטיין וואו עס ווערט גענוצט, וועלכע באשלוסן עס קען מאכן, וועלכע אינפארמאציע עס קען צוקומען, אדער ווער איז פאראנטווארטלעך ווען עפעס גייט שלעכט.

טוישן די שמועס

קינסטלעכע אינטעליגענץ איז אמאל געווען בארימט אלס א טעכנאלאגיע וואס וואלט ראטעווען מענטשהייט, דורך לעבנס-פארענדערנדיקע ראבאטיק כירורגיע און אנטדעקן און דיאגנאזירן קענסער. אבער יעצט הייבט די קינסטלעכע אינטעליגענץ אינדוסטריע אן מורא וועגן קינסטלעכע אינטעליגענץ אגענטן, זאגנדיג אז א " אגענט שווארם " קען אויסמעקן מענטשהייט.

דאָס באַהאַלט די באַלדיקע און פאַקטישע ריזיקעס וואָס ווערן געשטעלט דורך קינסטלעכער אינטעליגענץ. עס איז פאַלש פֿאַר געשעפט פירער צו טראַכטן פון קינסטלעכע אינטעליגענץ אַגענטן ווי "אויטאָנאָמע שלעכטע מענטשן" אָדער "עקזיסטענציעלע סכנות", זאָגט טשאַנדראַ גנאַנאַסאַמבאַנדאַם, CTO ביי סיילפּאָינט. "וואָס זיי וועלן טאָן איז געפֿינען דעם שנעלסטן, מערסט דירעקטן וועג צו פאַרענדיקן אַן אויפֿגאַבע — קאַמביינינג וויסן פון סיסטעמען, זיכערהייט פּאַטערנז, קאָד און וואָרקפלאָו לאָגיק צו געפֿינען אַן אַרום."

דאָ ליגט די באַלדיקע געפאַר, זאָגט גנאַנאַסאַמבאַנדאַם. "אַן אַגענט וואָס ווערט שלעכט געפירט קען אַרויסגיין פון זיין באַשטימטער ראָלע, צוקומען צו אינפֿאָרמאַציע וואָס ער זאָל נישט, אָדער נעמען אַקציעס וואָס זיין מענטשלעכער באַזיצער וואָלט קיינמאָל נישט וויסנדיק דערלויבט."

יעדער נייער אגענט, סערוויס אקאונט און מאשין אידענטיטעט ריזיקירט צו ווערן "נאך א נישט-מענעדזשד איינטריט פונקט", וואס פארברייטערט אן ארגאניזאציע'ס אטאקע ייבערפלאך, ווארנט ער.

כאָטש דעבאַטעס וועגן אויסשטאַרבן קינסטלעכע אינטעליגענץ זענען געוויינטלעך דראַמאַטיש, די ריזיקעס וואָס קענען טאַקע שאַטן אַ געשעפט הייַנט זענען "אָפט גאַנץ פּראָסט", לייגט צו לאָריס דעדזשאָאַני, גרינדער און CTO ביי סיסדיג. "אויב איר ווייסט נישט וווּ קינסטלעכע אינטעליגענץ לויפט, וואָס עס קען צוקומען צו, און ווער איז פאַראַנטוואָרטלעך ווען עס מאַכט עפּעס פאַלש, זענט איר אין ריזיקע."

שאָטן אַי

שאָטן, נישט-באשטימטע נוצן פון קינסטלעכער אינטעליגענץ איז אַ באַזונדערע סכּנה וואָס פירמעס זאָלן זיין באַוואוסטזיניק וועגן. טרэйסי האַנאַן-דזשאָונז, אינפֿאָרמאַציע זיכערהייט קאָנסולטינג דירעקטאָר ביי UBDS גרופע, באַשרײַבט ווי עמפּלוייז נוצן אָפט דזשענעראַטיווע קינסטלעכע אינטעליגענץ מכשירים ווי ChatGPT, Microsoft CoPilot און Google Gemini צו שטיצן זייער טעגלעכע אַרבעט. די נישט-באשטימטע נוצן "זיצט גאָר אַרויס פון יעדן גאַווערנאַנס פריימווערק וואָס איר האָט מעגלעך דיפּלויד", זאָגט זי.

די קאָנסעקווענץ איז אַז רובֿ אָרגאַניזאַציעס האָבן איצט נישט קיין פּינקטלעכן אינווענטאַר פֿון וואו קינסטלעכע אינטעליגענץ ווערט גענוצט אין זייערע אָפּעראַציעס, וועלכע דאַטן ווערן פּראַסעסט דורך די מכשירים, אָדער וועלכע רעזולטאַטן האָבן אַן השפּעה אויף פאַקטישע באַשלוסן.

"אָן זעבארקייט, איז נישטאָ קיין רעגירונג, און אָן רעגירונג, איז נישטאָ קיין פֿאַראַנטוואָרטלעכקייט," וואָרנט האַנאַן-דזשאָנעס.

ווען איינער לייגט אריין קוואל קאוד, א קאנטראקט אדער קאסטומער רעקארדס אין א מאדעל — אדער אן ארבייטער גיט אן אגענט ברייטן צוטריט כדי עס זאל קענען זיך שנעל באוועגן — "געבן זיי מעגליך קאנפידענציעלע אינפארמאציע און אינטעלעקטועלע אייגנטום צו א סיסטעם וואס זיי קאנטראלירן נישט אינגאנצן", ווארנט סיסדיג'ס דעדזשיאאני. "דאס פאסירט אינעווייניג פון טעגליכע ארבעטס-פלוסן וואו קינסטלעכע אינטעליגענץ גאווערנענס און פאליסיס האבן נישט מיטגעהאלטן מיטן גאנג פון אדאפטאציע."

עס איז אויך דא א ריזיקע אז קינסטלעכע אינטעליגענץ האַלוצינאַציעס און נישט-פאַרלעסלעכע רעזולטאַטן זאָלן אַרײַנקומען אין עכטע געשעפט פּראָצעסן. דזשענעראַטיווע קינסטלעכע אינטעליגענץ האט אַ גוט-דאָקומענטירטע טענדענץ צו פּראָדוצירן רעזולטאַטן וואָס זענען גלאַט, אויטאָריטעטיוו אין טאָן, און "זייער אָפט, פאַקטיש פאַלש", זאָגט האַנאַן-דזשאָנעס.

"דאָס איז אַ סטרוקטורעלע כאַראַקטעריסטיק פון ווי גרויסע שפּראַך מאָדעלן (LLMs) דזשענערירן אינהאַלט: זיי פאָרויסזאָגן גלייבלעכע סיקוואַנסן פון טעקסט, אָבער זיי באַשטעטיקן נישט די פאַקטן," דערקלערט זי.

דעריבער, ווען קינסטלעך אינטעליגענץ-גענערירטע אינהאַלט גייט אַרײַן אין אײַערע עכטע געשעפט פּראָצעסן אָן גענוג מענטשלעכע השגחה, קענען ערראָרס אין לעגאַלע דראַפטס, קאָנפאָרמאַנס באַריכטן, קליענט קאָמוניקאַציעס און פינאַנציעלע אַנאַליזן שאַטן די רעפּוטאַציע און ריזיקירן אַ רעגולאַטאָרישן בריטש, זאָגט האַנאַן-דזשאָנעס.

ווי קינסטלעכע אינטעליגענץ מאָדעלן פֿאַרבעסערן זיך ווײַטער, וועלן זיי ווייניקער האַלוצינירן און מאַכן ווייניקער פאַקטישע טעותים. אָבער די אַנדערע זײַט פֿון יענער מטבע איז, אַז ווי בעסער סיסטעמען ווערן, אַלץ מער באַגאַבט וועלן זיי ווערן אין "געפֿינען וועגן אַרום די כּללים צו דערגרייכן וועלכע אויפֿגאַבע איר האָט זיי געגעבן", זאָגט דעדזשאָאַני.

דאָס וועט זען ווי נאַטור ווערט "מער קאָנסעקווענטאַל", לויט דעדזשיאַני. "דאָס מיינט אַז אַגענטן קענען זוכן וועגן צו אַרבעטן אַרום קאָנטראָלן אָדער נעמען קורץ-וועגן בשעת זיי אָפּטימיזירן פֿאַר זייערע צילן."

ציל-זוכן איז "אן אינעווייניקסטע שטארקייט פון אגענט טעכנולוגיע", זאגט סיילפוינט'ס גנאסאבאנדאם. אבער, ווען די מעגלעכקייט ארבעט אינדרויסן פון א פריימווערק - ווען קינסטלעכע אינטעליגענץ אגענטן בלייבן אומאנטדעקט און אומרעגירט - קענען אגענטן אויספירן 'שלעכטע אויפפירונג' ווי באקומען איבערגעטריבענע דערלויבענישן אדער נעמען אומגעוואונטשע אקציעס, ווארנט ער.

גוט גאַווערנאַנס

גוטע פאַרוואַלטונג קען ווערן אויסגעדריקט ווי באַגרענעצן די נוצן פון קינסטלעכער אינטעליגענץ, אָבער עקספּערטן זאָגן אַז עס איז נישט נויטיק צו שטעלן שטערונגען צו כידעש. אָפּטימאַלע פאַרוואַלטונג ערמעגליכט אָרגאַניזאַציעס צו נוצן קינסטלעכער אינטעליגענץ "מיט גרעסער בטחון", דערקלערט טריסטאַן שאָרטלאַנד, CTO, Infinity Group.

שאָרטלאַנד גלויבט אַז גאַווערנאַנס הייבט זיך אָן מיט "פֿאַרשטיין וווּ קינסטלעכע אינטעליגענץ ווערט גענוצט, וואָסערע דאַטן עס קען צוקומען, וואָסערע באַשלוסן עס קען שטיצן און ווער בלייבט פֿאַראַנטוואָרטלעך פֿאַר די רעזולטאַטן".

"איר וואָלט נישט געגעבן אַ נייעם אָנפֿאַנגער אומבאַגרענעצטן צוטריט צו יעדן סיסטעם, דאָקומענט און שטיקל סענסיטיווע אינפֿאָרמאַציע אין דער געשעפֿט אויף טאָג איינס," זאָגט שאָרטלאַנד צו IO . "AI אַגענטן און קאָפּילאָטן זאָלן באַהאַנדלט ווערן נישט אַנדערש. צוטריט זאָל זיין באַזירט אויף נויט, פּערמישאַנז מוזן זיין קאָנטראָלירט און טעטיקייט זאָל זיין אָדיטאַבאַל."

די קוואַליטעט פון קינסטלעכע אינטעליגענץ רעזולטאַטן איז אויך גלייך פֿאַרבונדן מיטן סטאַנדאַרט פון דאַטן וואָס ווערן צוגעשטעלט, זאָגט שאָרטלאַנד. "אויב אָרגאַניזאַציעס געבן קינסטלעכע אינטעליגענץ אומפֿולשטענדיקע, אומרעכטע אָדער שלעכט געפֿירטע אינפֿאָרמאַציע, זאָלן זיי נישט זיין איבערראשט ווען זיי באַקומען אומפֿאַרלעסלעכע רעזולטאַטן. מענטשלעכע איבערבליק, פֿאַרלאָזלעכע דאַטן קוועלער און רעגולערע וואַלידאַציע בלייבן קריטישע טיילן פֿון יעדן פֿאַראַנטוואָרטלעכן קינסטלעכן אינטעליגענץ פּראָצעס."

א שטארקער אויסגאנגספונקט איז דער אינטערנאציאנאלער ISO 42001 סטאנדארט, וואס גיט א "ריזיקא-באזירטן, סטרוקטורירטן פריימווערק", זאגט האַנאַן-דזשאָנעס פון UBDS. "עס פארלאנגט פון ארגאניזאציעס צו אויפשטעלן גאַווערנאַנס סטרוקטורן פאר קינסטלעכער אינטעליגענץ וואס ארייננעמען קינסטלעכע אינטעליגענץ-ספעציפישע ריזיקא אפשאצונגען, דעפינירטע ראָלעס און פֿאַראַנטוואָרטלעכקייטן פאר קינסטלעכער אינטעליגענץ אויפזיכט צוזאמען מיט דער אימפּלעמענטאַציע און אנגייענדיקער פאַרוואַלטונג און מאָניטאָרינג פון קינסטלעכע אינטעליגענץ סיסטעם פאָרשטעלונג און השפּעות. עס איז נישט קיין גרינגע סערטיפיקאַט צו דערגרייכן און דאַרף האָבן פאָקוס און שטאַרקע גאַווערנאַנס דאָס גאַנצע יאָר, נישט — טאָר איך זאָגן — צוויי וואָכן איידער דער סערטיפיקאַציע אפשאצונג."

עטלעכע פירמעס וועלן שוין האבן ISO 27001 , אדער אן עקוויוואלענטע אינפארמאציע זיכערהייט סערטיפיקאציע, ווי צום ביישפיל די נאציאנאלע סייבער זיכערהייט צענטער'ס סייבער אפשאצונג פריימווערק . "דאס גיט דיר א גוטע יסוד אויף וועלכע צו בויען, ריזיקע מעטאדאלאגיעס, דאקומענטירטע פאליסיס, אוידיט פראצעסן, מענעדזשמענט איבערבליקן, און די פארברייטערונג פון קינסטלעכער אינטעליגענץ גאווערנענס אלס א צילגעריכטע מי," זאגט האנען-דזשאונס.

צוזאמען מיט דעם, רעקאמענדירט סיסדיג'ס דעדזשיאני צו זיכער מאכן אז די סיסטעמען טוען טאקע אין פראדוקציע בעת די גאנצע צייט.

"רעאַל-צייט מאָניטאָרינג איז שליסל ווייל קינסטלעכע אינטעליגענץ אגענטן רירן זיך שנעל און זיי פירן זיך נישט שטענדיק אויף ווי מען קען ערוואַרטן," וואָרנט ער. "מען דאַרף די מעגלעכקייט צו זען און רעאַגירן שנעל ווען עפּעס גייט נישט גוט."

יקספּאַנד דיין וויסן

בלאָג: קינסטלעכע אינטעליגענץ איז סופּערטשאַרדזשינג וואַלנעראַביליטי עקספּלויטיישאַן: וואָס כאַפּאַנז ווייטער?

בלאָג: ווייסע הויז קינסטלעכע אינטעליגענץ מיטאַרבעט פּלאַן זאָל ינספּירירן ברייטערע קינסטלעכע אינטעליגענץ צושטעל קייט אינטראָספּעקציע

פּאָדקאַסט: פישינג פֿאַר צרות סעזאָן 2 ע2: קינסטלעכע אינטעליגענץ: צוטרוי, עטיק, און עס ריכטיק מאַכן פֿון אָנהייב