作為可以批量化產(chǎn)出內(nèi)容的技術(shù)，隨著元宇宙Metaverse概念的升溫，AI技術(shù)最近又在科技界和游戲行業(yè)成為了熱門(mén)話題。

　　隨著機(jī)器學(xué)習(xí)技術(shù)的提升，AI不僅可以寫(xiě)文章、寫(xiě)代碼、甚至還更懂如何撩妹。不過(guò)，該技術(shù)最近也遇到了一些比較棘手的問(wèn)題，雖然可以從龐大的數(shù)據(jù)庫(kù)學(xué)習(xí)全方位的內(nèi)容，但由于缺乏人類(lèi)思考而生成了兒童低俗內(nèi)容，一款A(yù)I文字冒險(xiǎn)游戲遭到了人們的質(zhì)疑和玩家的反對(duì)。

　　在2019年12月的時(shí)候，猶他州初創(chuàng)公司發(fā)布了一個(gè)具有開(kāi)拓性的在線游戲《AI地下城》，展示了一種新形式的人機(jī)協(xié)作方式。該公司使用來(lái)自人工智能技術(shù)公司OpenAI的文字生成技術(shù)，讓玩家創(chuàng)造類(lèi)似《龍與地下城》式的定制化冒險(xiǎn)游戲。

　　《AI與地下城》是一個(gè)比較特別的游戲，它需要玩家一直聯(lián)網(wǎng)，但創(chuàng)造的內(nèi)容大多數(shù)都是單機(jī)冒險(xiǎn)體驗(yàn)，在游戲過(guò)程中，玩家們還可以公開(kāi)分享自己的文字游戲過(guò)程。你可以學(xué)則到不同的世界冒險(xiǎn)，也可以選擇多人游戲。

　　每個(gè)世界都有著不同的特點(diǎn)、設(shè)定和背景故事，其中一些世界為免費(fèi)體驗(yàn)，還有些世界則需要玩家付費(fèi)才能參與冒險(xiǎn)。

　　比如筆者選擇的Winterbloom就是個(gè)夢(mèng)境版的童話世界，人們用漂亮的燈和蠟燭裝扮自己的家，每個(gè)人都與他們的好友及家人玩游戲。

　　不過(guò)，除了世界選擇界面出現(xiàn)的圖片之外，玩家們進(jìn)入游戲之后面對(duì)的就是純文字內(nèi)容。

　　首先是選擇角色，包括名字、性別、種族、出生地等大量細(xì)節(jié)內(nèi)容。開(kāi)始游戲之后，玩家輸入單詞或者句子以表達(dá)自己將要進(jìn)行的動(dòng)作或者講述想讓角色想說(shuō)的話。

　　AI隨后會(huì)根據(jù)玩家輸入的內(nèi)容，自動(dòng)隨機(jī)展開(kāi)個(gè)性化的冒險(xiǎn)。所以從操作來(lái)說(shuō)，只要會(huì)打字就可以玩這款游戲，但對(duì)于追求視覺(jué)表現(xiàn)的用戶而言，《AI地下城》的吸引力或許沒(méi)有那么大。

　　不過(guò)，對(duì)于喜歡劇情和角色冒險(xiǎn)故事的玩家們來(lái)說(shuō)，你幾乎可以在這款游戲里體驗(yàn)到?jīng)]有上限的故事數(shù)量，甚至還可以根據(jù)自己的想象，與AI一起寫(xiě)小說(shuō)。

　　OpenAI在2019年的時(shí)候?qū)⑵湮谋旧杉夹g(shù)開(kāi)源，在程序員通過(guò)它產(chǎn)出流暢的笑話和代碼之后，該技術(shù)迅速引起了科技界的關(guān)注。

　　去年暑期，OpenAI給了Latitude工作室一個(gè)更強(qiáng)大的商業(yè)版本(GPT-3)，并且將《AI地下城》作為GPT-3寫(xiě)作算法技術(shù)創(chuàng)意和商業(yè)潛力的典型案例。OpenAI表示該服務(wù)將會(huì)增強(qiáng)企業(yè)和初創(chuàng)公司的能力，并向OpenAI母公司微軟授予基礎(chǔ)算法的獨(dú)家許可。不過(guò)，測(cè)試者們發(fā)現(xiàn)，該技術(shù)可能生成令人厭惡的結(jié)果，比如反猶太言論和極端主義宣傳。

　　一個(gè)新的監(jiān)控系統(tǒng)顯示，一些玩家輸入的單詞導(dǎo)致游戲產(chǎn)出一些和兒童相關(guān)的低俗內(nèi)容，OpenAI公司要求Latitude立即對(duì)此作出反應(yīng)，并表示該公司將仔細(xì)審查客戶以剔除不良行為者，還要求大多數(shù)客戶(不包括Latitude)使用其打造的過(guò)濾器來(lái)防止褻瀆、仇恨言論或低俗內(nèi)容。OpenAI公司CEO Sam Altman在聲明中提到，“內(nèi)容審核決策某些情況下是很難的，但這類(lèi)內(nèi)容堅(jiān)決不允許，這不是我們希望AI未來(lái)要做的事情”。

　　2019年12月，也就是該游戲使用早期開(kāi)源版的當(dāng)月，該游戲獲得了10萬(wàn)玩家數(shù)。一些人很快發(fā)現(xiàn)它可以產(chǎn)生非常流暢的性?xún)?nèi)容，其他人則抱怨在不必要的情況下生成了性主題相關(guān)內(nèi)容，例如，當(dāng)他們?cè)噲D騎龍旅行的時(shí)候，冒險(xiǎn)過(guò)程發(fā)生了意外的轉(zhuǎn)折。

　　Latitude聯(lián)合創(chuàng)始人Nick Walton在官方Reddit社區(qū)承認(rèn)了這個(gè)問(wèn)題，她說(shuō)，有幾個(gè)玩家給出的例子讓他們感到“非常不舒服”，并補(bǔ)充表示，該公司正在研發(fā)過(guò)濾技術(shù)。從這款游戲的最初發(fā)布開(kāi)始，玩家們也注意到，并且在網(wǎng)上發(fā)帖提醒，該游戲有時(shí)候會(huì)把孩子們寫(xiě)到低俗場(chǎng)景內(nèi)。

　　上周，Latitude增加了一個(gè)新的審核系統(tǒng)，并且引發(fā)了用戶的抵制。一些人抱怨稱(chēng)該系統(tǒng)過(guò)于敏感，甚至輸入“8歲的筆記本電腦”都會(huì)觸發(fā)警告信息。還有人表示，該公司想要人工審核內(nèi)容的計(jì)劃將不必要的窺探一些露骨但只用于成年人的私人虛擬創(chuàng)作，這在《AI地下城》玩家中間很流行。

　　簡(jiǎn)而言之，Latitude試圖將人與算法結(jié)合起來(lái)，監(jiān)管由人和算法產(chǎn)生的內(nèi)容，但結(jié)果并不理想，該游戲在Google Play的評(píng)分快速降到了2.8。在海外社交媒體和《AI地下城》的官方Reddit以及Disord社區(qū)，也很快出現(xiàn)了大量憤怒的評(píng)論和取消訂閱言論。

　　一位名叫Mimi的玩家稱(chēng)，“社區(qū)覺(jué)得被Latitude背叛了，因?yàn)樵摴緦呙韬褪謩?dòng)閱讀隱私內(nèi)容”，他表示，在AI的幫助下，自己寫(xiě)了大概100多萬(wàn)字，包括詩(shī)歌、《暮光之城》惡搞版和低俗冒險(xiǎn)小說(shuō)。

　　Mimi和其他不安的玩家表示，他們理解該公司想要管控公開(kāi)內(nèi)容的需要，但實(shí)際的做法有點(diǎn)過(guò)頭，侵犯了玩家的隱私，“它讓我看到了從未意識(shí)到的問(wèn)題”。

　　Latitude一名發(fā)言人表示，該公司的過(guò)濾系統(tǒng)和政策已經(jīng)做了調(diào)整，員工曾封禁過(guò)一些用《AI地下城》生成兒童低俗內(nèi)容的玩家，但接到OpenAI最近的警告之后，該公司正在考慮“必要的改變”。Latitude上周發(fā)布了一個(gè)博客，公開(kāi)向玩家表示，游戲會(huì)“繼續(xù)支持NSFW(不適合上班閱覽)的內(nèi)容，包括合適的成人內(nèi)容、暴力與臟話”。

　　對(duì)于技術(shù)公司來(lái)說(shuō)，阻止AI系統(tǒng)創(chuàng)作一些低俗和成人內(nèi)容，同時(shí)又要允許一些(成年)人這么做，會(huì)變的很困難。OpenAI的技術(shù)可以創(chuàng)造很多類(lèi)型的文本，因?yàn)樗腔跈C(jī)器學(xué)習(xí)算法打造的，已經(jīng)消化了從網(wǎng)上抓取的數(shù)億單詞，包括一些不適合未成年人的內(nèi)容。該軟件能夠進(jìn)行非常逼真的模仿，但卻不能像人類(lèi)那樣理解社會(huì)、法律或者品類(lèi)的區(qū)別，再加上仿生人可怕的創(chuàng)造力，它們帶來(lái)的內(nèi)容可能很出色，也可能失控。

　　實(shí)際上，Latitude很早就加入了敏感詞過(guò)濾。比如《AI地下城》的官方Reddit和Discord社區(qū)增加了專(zhuān)門(mén)頻道來(lái)討論游戲產(chǎn)出的成人內(nèi)容。Latitude增加了一個(gè)可選的“安全模式”，可以過(guò)濾掉AI參數(shù)庫(kù)中的特定詞匯。然而，就像所有的過(guò)濾器一樣，它并不完美。一些玩家注意到，所謂的安全設(shè)置提高了文本生成器的低俗寫(xiě)作手段，九游娛樂(lè)-官方入口因?yàn)槭褂昧烁囝?lèi)比和委婉的說(shuō)法，該公司還增加了高級(jí)訂閱，以創(chuàng)造更高的收入。

　　當(dāng)《AI地下城》在2020年7月份增加了OpenAI更強(qiáng)大的商業(yè)寫(xiě)作算法時(shí)，生成的內(nèi)容更加令人印象深刻。一位資深玩家表示，“創(chuàng)意和講故事能力的飆升真非常好”。有知情人士透露，該系統(tǒng)在探索露骨主題方面也變得更具有創(chuàng)造性。去年有一段時(shí)間，玩家們注意到Latitude正在試驗(yàn)一種過(guò)濾器，它會(huì)自動(dòng)將“強(qiáng)奸”一詞變?yōu)椤白鹬亍?，但隨后該功能被取消。

　　有些資深玩家是《AI地下城》的狂熱粉絲之一，他們將該游戲作為人工智能增強(qiáng)寫(xiě)作的一種工具來(lái)探索成人主題，并且成立了專(zhuān)門(mén)的寫(xiě)作小組。算法中不需要的建議可以從故事里刪除，以便把故事引到一個(gè)不同的方向，除非有人選擇公開(kāi)分享，否則冒險(xiǎn)結(jié)果不會(huì)被其他人看到。

　　Latitude并沒(méi)有透露涉及成人內(nèi)容的具體游戲比例，而OpenAI的官網(wǎng)顯示，《AI地下城》每天吸引的玩家數(shù)都超過(guò)2萬(wàn)人。

　　一位《AI地下城》玩家甚至還在上周發(fā)現(xiàn)了游戲的漏洞，它可以讓所有人都公開(kāi)訪問(wèn)每一個(gè)故事。他說(shuō)，自己在4月份的4天內(nèi)下載了數(shù)十萬(wàn)次冒險(xiǎn)，分析了18.8萬(wàn)份樣本，發(fā)現(xiàn)31%的樣本中包含帶有暗示的露骨字眼，這個(gè)漏洞并未被修補(bǔ)。

　　Latitude現(xiàn)在面臨的挑戰(zhàn)在于，重新贏得用戶信任的同時(shí)，滿足OpenAI對(duì)文本生成器更嚴(yán)格控制的要求。OpenAI一名發(fā)言人表示，這家初創(chuàng)公司必須使用OpenAI的過(guò)濾技術(shù)。

　　如何有效部署吸收了大量互聯(lián)網(wǎng)文本的AI系統(tǒng)，已經(jīng)成為人們?cè)谌斯ぶ悄苎芯款I(lǐng)域的熱門(mén)話題。語(yǔ)言模型的使用越來(lái)越廣泛，比如在谷歌搜索中，它可以幫你理解長(zhǎng)內(nèi)容的含義。

　　不過(guò)，華盛頓大學(xué)研究院Suchin Gururangan說(shuō)，“你很難知道這些模型將會(huì)如何表現(xiàn)”。他與維斯康星大學(xué)和艾倫人工智能研究的研究人員一起參與了一項(xiàng)調(diào)研報(bào)告和互動(dòng)在線演示，結(jié)果顯示，當(dāng)從網(wǎng)絡(luò)上借用的文本被用于5種不同的語(yǔ)言生成模型時(shí)，包括OpenAI在內(nèi)，所有模型都會(huì)產(chǎn)生有害的文字。

　　對(duì)于“互聯(lián)網(wǎng)終極未來(lái)”元宇宙而言，AI技術(shù)是批量產(chǎn)生內(nèi)容、豐富元宇宙和人們體驗(yàn)的重要手段。但從《AI地下城》暴露的問(wèn)題來(lái)看，如何對(duì)AI語(yǔ)言系統(tǒng)施加更多的控制，包括它們學(xué)習(xí)的資源出處等，都還需要更多的探索，雖然AI機(jī)器學(xué)習(xí)技術(shù)已經(jīng)可以用于游戲創(chuàng)作和變現(xiàn)，但如何恰當(dāng)控制AI生成的內(nèi)容，也將是同行們躲不開(kāi)的話題。

　　健康游戲忠告:抵制不良游戲 拒絕盜版游戲 注意自我保護(hù) 謹(jǐn)防上當(dāng)受騙 適度游戲益腦 沉迷游戲傷身 合理安排時(shí)間 享受健康生活