OpenAI成立新的安全顾问委员会 成员全是自己人(cheng li xin de an quan gu wen wei yuan hui cheng yuan quan shi zi ji ren)

　　来lái源yuán：华huá尔ěr街jiē见jiàn闻wén

　　过guò去qù几jǐ个gè月yuè，OpenAI的de技jì术shù团tuán队duì中zhōng有yǒu多duō名míng安ān全quán方fāng面miàn的de高gāo层céng人rén员yuán离lí职zhí，这zhè些xiē前qián员yuán工gōng中zhōng有yǒu些xiē人rén对duìOpenAI在zàiAI安ān全quán方fāng面miàn的de优yōu先xiān级jí下xià降jiàng表biǎo示shì担dān忧yōu。

　　OpenAI周zhōu二èr宣xuān布bù成chéng立lì一yī个gè新xīn的de安ān全quán顾gù问wèn委wěi员yuán会huì，负fù责zé监jiān督dū与yǔ公gōng司sī项xiàng目mù和hé运yùn营yíng相xiāng关guān的de“关guān键jiàn”安ān全quán和hé安ān保bǎo决jué策cè。而ér值zhí得dé注zhù意yì的de是shì，进jìn入rù该gāi安ān全quán顾gù问wèn委wěi员yuán会huì的de成chéng员yuán全quán部bù为wèi该gāi公gōng司sī内nèi部bù人rén员yuán，包bāo括kuòOpenAI的deCEO Sam Altman，外wài部bù人rén员yuán一yī个gè也yě没méi有yǒu。

　　根gēn据jùOpenAI公gōng司sī博bó客kè上shàng的de一yī篇piān文wén章zhāng，安ān全quán顾gù问wèn委wěi员yuán会huì将jiāng在zài接jiē下xià来lái90天tiān内nèi负fù责zé评píng估gūOpenAI得dé安ān全quán流liú程chéng和hé保bǎo障zhàng措cuò施shī。然rán后hòu，该gāi委wěi员yuán会huì将jiāng向xiàngOpenAI董dǒng事shì会huì汇huì报bào其qí发fā现xiàn和hé建jiàn议yì，OpenAI表biǎo示shì，届jiè时shí将jiāng以yǐ符fú合hé安ān全quán和hé安ān保bǎo的de方fāng式shì公gōng布bù任rèn何hé已yǐ***cǎi纳nà的de建jiàn议yì的de更gèng新xīn。

　　OpenAI周zhōu二èr表biǎo示shì，已yǐ开kāi始shǐ训xùn练liàn新xīn一yī代dài旗qí舰jiàn人rén工gōng智zhì能néng模mó型xíng，以yǐ期qī超chāo越yuè目mù前qián的deGPT-4大dà模mó型xíng。“OpenAI最zuì近jìn开kāi始shǐ训xùn练liàn其qí下xià一yī个gè前qián沿yán模mó型xíng，我wǒ们men预yù计jì由yóu此cǐ产chǎn生shēng的de系xì统tǒng将jiāng使shǐ我wǒ们men在zài通tōng往wǎng通tōng用yòng人rén工gōng智zhì能néng的de道dào路lù上shàng迈mài上shàng一yī个gè新xīn台tái阶jiē，”OpenAI写xiě道dào。“虽suī然rán我wǒ们men很hěn自zì豪háo地dì构gòu建jiàn和hé发fā布bù在zài能néng力lì和hé安ān全quán方fāng面miàn都dōu领lǐng先xiān的de模mó型xíng，但dàn我wǒ们men欢huān迎yíng在zài这zhè个gè重zhòng要yào时shí刻kè进jìn行xíng深shēn入rù讨tǎo论lùn。”

　　除chú了leAltman，安ān全quán顾gù问wèn委wěi员yuán会huì的de其qí他tā成chéng员yuán包bāo括kuòOpenAI董dǒng事shì会huì成chéng员yuánBret Taylor、Adam D’Angelo和héNicole Seligman，以yǐ及jí首shǒu席xí科kē学xué家jiāJakub Pachocki、OpenAI早zǎo期qī筹chóu备bèi团tuán队duì的deAleksander Madry、安ān全quán系xì统tǒng负fù责zé人rénLilian Weng、安ān保bǎo负fù责zé人rénMatt Knight和hé“人rén工gōng智zhì能néng对duì齐qí”（AI Alignment）负fù责zé人rénJohn Schulman。

　　安ān全quán不bù再zài优yōu先xiān 多duō名míng高gāo层céng离lí职zhí

　　过guò去qù几jǐ个gè月yuè，OpenAI的de技jì术shù团tuán队duì中zhōng有yǒu多duō名míng安ān全quán方fāng面miàn的de高gāo层céng人rén员yuán离lí职zhí，这zhè些xiē前qián员yuán工gōng中zhōng有yǒu些xiē人rén对duìOpenAI在zàiAI安ān全quán方fāng面miàn的de优yōu先xiān级jí下xià降jiàng表biǎo示shì担dān忧yōu。

　　曾céng在zàiOpenAI担dān任rèn团tuán队duì治zhì理lǐ工gōng作zuò的deDaniel Kokotajlo在zài4月yuè辞cí职zhí，因yīn为wèi他tā对duìOpenAI在zài发fā布bù越yuè来lái越yuè强qiáng大dà的deAI时shí“负fù责zé任rèn的de行xíng为wèi”失shī去qù了le信xìn心xīn，他tā在zài个gè人rén博bó客kè上shàng写xiě道dào。此cǐ外wài，OpenAI的de联lián合hé创chuàng始shǐ人rén兼jiān前qián首shǒu席xí科kē学xué家jiāIlya Sutskever在zài与yǔAltman及jí其qí盟méng友yǒu的de长zhǎng期qī斗dòu争zhēng后hòu，于yú5月yuè离lí职zhí，据jù报bào道dào部bù分fēn原yuán因yīn是shìAltman急jí于yú推tuī出chūAI驱qū动dòng的de产chǎn品pǐn而ér牺xī牲shēng了le安ān全quán性xìng能néng。

　　最zuì近jìn，前qiánDeepMind研yán究jiū员yuánJan Leike此cǐ前qián在zàiOpenAI负fù责zé开kāi发fāChatGPT及jí其qí前qián身shēnInstructGPT的de过guò程chéng中zhōng，也yě辞cí去qù了le安ān全quán研yán究jiū员yuán职zhí务wù，他tā在zài一yī系xì列lièX平píng台tái的de帖tiē子zi中zhōng表biǎo示shì，他tā认rèn为wèiOpenAI“未wèi走zǒu在zài解jiě决juéAI安ān全quán和hé安ān保bǎo问wèn题tí的de正zhèng确què轨guǐ道dào上shàng”。同tóng时shí，AI政zhèng策cè研yán究jiū员yuánGretchen Krueger上shàng周zhōu离lí开kāiOpenAI，她tā也yě同tóng意yìLeike的de观guān点diǎn，呼hū吁xū公gōng司sī提tí高gāo问wèn责zé制zhì和hé透tòu明míng度dù，并bìng“更gèng加jiā谨jǐn慎shèn地dì使shǐ用yòng自zì己jǐ的de技jì术shù”。

　　媒méi体tǐ报bào道dào，除chú了leSutskever、Kokotajlo、Leike和héKrueger，自zì去qù年nián年nián底dǐ以yǐ来lái，至zhì少shǎo有yǒu五wǔ名míngOpenAI最zuì重zhòng视shì安ān全quán的de员yuán工gōng要yào么me辞cí职zhí，要yào么me被bèi迫pò离lí开kāi，包bāo括kuò前qiánOpenAI董dǒng事shì会huì成chéng员yuánHelen Toner和héTasha McCauley。两liǎng人rén日rì前qián在zài媒méi体tǐ撰zhuàn文wén称chēng，在zàiAltman的de领lǐng导dǎo下xià，他tā们men相xiāng信xìnOpenAI无wú法fǎ实shí现xiàn对duì自zì身shēn追zhuī究jiū责zé任rèn。

“根gēn据jù我wǒ们men的de经jīng验yàn，OpenAI的de自zì我wǒ治zhì理lǐ无wú法fǎ承chéng受shòu利lì润rùn激jī励lì带dài来lái的de诱yòu惑huò。”

　　倡chàng导dǎo监jiān管guǎn？塑sù造zào监jiān管guǎn

　　此cǐ前qián有yǒu媒méi体tǐ报bào道dào，负fù责zé开kāi发fā“超chāo级jí智zhì能néng”AI系xì统tǒng治zhì理lǐ方fāng法fǎ的deOpenAI超chāo级jí对duì齐qí（Superalignment team）团tuán队duì被bèi承chéng诺nuò获huò得dé公gōng司sī20%的de计jì算suàn资zī源yuán，但dàn实shí际jì上shàng却què很hěn少shǎo这zhè部bù分fēn资zī源yuán。超chāo级jí对duì齐qí团tuán队duì自zì那nà以yǐ后hòu被bèi解jiě散sàn，其qí工gōng作zuò大dà部bù分fēn被bèi转zhuǎn交jiāo给gěi“人rén工gōng智zhì能néng对duì齐qí”（AI Alignment）负fù责zé人rénJohn Schulman和héOpenAI在zài12月yuè成chéng立lì的de安ān全quán咨zī询xún小xiǎo组zǔ。

　　虽suī然ránOpenAI一yī直zhí在zài倡chàng导dǎoAI监jiān管guǎn，但dàn也yě在zài努nǔ力lì影yǐng响xiǎng塑sù造zào这zhè些xiē监jiān管guǎn，该gāi公gōng司sī聘pìn请qǐng了le一yī名míng内nèi部bù游yóu说shuō者zhě和hé越yuè来lái越yuè多duō的de外wài部bù律lǜ师shī事shì务wù所suǒ游yóu说shuō者zhě，仅jǐn在zài美měi国guó游yóu说shuō方fāng面miàn该gāi公gōng司sī2023年nián第dì四sì季jì度dù就jiù花huā费fèi了le数shù十shí万wàn美měi元yuán。最zuì近jìn，美měi国guó国guó土tǔ安ān全quán部bù宣xuān布bùAltman将jiāng成chéng为wèi其qí新xīn成chéng立lì的de人rén工gōng智zhì能néng安ān全quán和hé安ān保bǎo委wěi员yuán会huì（Artificial Intelligence Safety and Security Board）的de成chéng员yuán，该gāi委wěi员yuán会huì将jiāng为wèi“安ān全quán和hé可kě靠kào的deAI开kāi发fā和hé部bù署shǔ”提tí供gōng建jiàn议yì，以yǐ覆fù盖gài美měi国guó的de关guān键jiàn基jī础chǔ设shè施shī。

　　而ér为wèi了le避bì免miǎn由yóu于yú安ān全quán和hé安ān保bǎo委wěi员yuán会huì全quán部bù为wèi内nèi部bù高gāo管guǎn而ér被bèi认rèn为wèi是shì橡xiàng皮pí图tú章zhāng，OpenAI承chéng诺nuò聘pìn请qǐng第dì三sān方fāng“安ān全quán、安ān保bǎo和hé技jì术shù”专zhuān家jiā来lái支zhī持chí委wěi员yuán会huì的de工gōng作zuò，包bāo括kuò网wǎng络luò安ān全quán专zhuān家jiāRob Joyce和hé前qián美měi国guó司sī法fǎ部bù官guān员yuánJohn Carlin。

　　然rán而ér，除chú了leJoyce和héCarlin，OpenAI尚shàng未wèi详xiáng细xì说shuō明míng该gāi外wài部bù专zhuān家jiā组zǔ的de规guī模mó和hé组zǔ成chéng，也yě没méi有yǒu透tòu露lù该gāi组zǔ对duì委wěi员yuán会huì的de影yǐng响xiǎng力lì和hé权quán力lì的de限xiàn制zhì。有yǒu专zhuān家jiā指zhǐ出chū，OpenAI成chéng立lì此cǐ类lèi的de企qǐ业yè监jiān督dū委wěi员yuán会huì，类lèi似shì于yú谷gǔ歌gē的de高gāo级jí技jì术shù外wài部bù咨zī询xún委wěi员yuán会huì，其qí实shí在zài实shí际jì监jiān督dū方fāng面miàn几jǐ乎hū没méi有yǒu什shén么me作zuò为wèi。

　　风fēng险xiǎn提tí示shì及jí免miǎn责zé条tiáo款kuǎn

　　市shì场chǎng有yǒu风fēng险xiǎn，投tóu资zī需xū谨jǐn慎shèn。本běn文wén不bù构gòu成chéng个gè人rén投tóu资zī建jiàn议yì，也yě未wèi考kǎo虑lǜ到dào个gè别bié用yòng户hù特tè殊shū的de投tóu资zī目mù标biāo、财cái务wù状zhuàng况kuàng或huò需xū要yào。用yòng户hù应yīng考kǎo虑lǜ本běn文wén中zhōng的de任rèn何hé意yì见jiàn、观guān点diǎn或huò结jié论lùn是shì否fǒu符fú合hé其qí特tè定dìng状zhuàng况kuàng。据jù此cǐ投tóu资zī，责zé任rèn自zì负fù。