大型游戲創(chuàng)作平臺(tái)羅布樂(lè)思已運(yùn)用機(jī)器學(xué)習(xí)AI技術(shù)開展語(yǔ)音聊天審核工作長(zhǎng)達(dá)一年之久。鑒于該平臺(tái)擁有龐大的兒童用戶群體，公司始終將審核工作視為重中之重。在近日舉行的GDC 2024游戲開發(fā)者大會(huì)上，羅布樂(lè)思公司高級(jí)技術(shù)總監(jiān)Kiran Bhat和語(yǔ)音安全負(fù)責(zé)人Hannes Heikinheimo透露，盡管AI審核成效顯著，但在某些情況下，人工審核仍具有不可替代的優(yōu)勢(shì)。

Bhat在演講中指出：“實(shí)時(shí)監(jiān)控語(yǔ)音并非易事，因?yàn)檫@不僅需要識(shí)別語(yǔ)音內(nèi)容，還需捕捉說(shuō)話者的語(yǔ)氣和強(qiáng)度，從而準(zhǔn)確判斷某段話是否帶有惡意?！彼M(jìn)一步解釋道，“上下文信息同樣是判斷話語(yǔ)是否冒犯的關(guān)鍵因素，這使得問(wèn)題變得更為復(fù)雜?！?/p>

為應(yīng)對(duì)這些挑戰(zhàn)，公司采用了將違規(guī)內(nèi)容劃分為4個(gè)主要類別的策略，并發(fā)現(xiàn)85%的違規(guī)內(nèi)容均屬于這些類別，且“絕大多數(shù)”可通過(guò)50個(gè)關(guān)鍵詞進(jìn)行捕捉。Bhat表示：“若能涵蓋這些類別的前50個(gè)關(guān)鍵詞，審核工作便已相當(dāng)?shù)轿弧！?/p>

語(yǔ)音安全負(fù)責(zé)人Heikinheimo則強(qiáng)調(diào)了AI監(jiān)管所取得的令人矚目的成果：經(jīng)過(guò)一年的運(yùn)行，該系統(tǒng)已覆蓋31個(gè)國(guó)家和地區(qū)，且每段“活躍聊天時(shí)間”的違規(guī)舉報(bào)數(shù)量減少了一半。他提到，AI的一個(gè)顯著優(yōu)勢(shì)在于其無(wú)情感且不會(huì)疲憊，因此在處理“非常明顯的違規(guī)情況”時(shí)，機(jī)器比人類更為高效和穩(wěn)定。然而，他也承認(rèn)，在理解意圖和進(jìn)行判斷方面，“人類仍強(qiáng)于機(jī)器”。

Heikinheimo解釋道：“在處理那些可能接近判定邊緣的情況，或在數(shù)據(jù)稀缺、機(jī)器學(xué)習(xí)系統(tǒng)難以充分訓(xùn)練的罕見(jiàn)情況下，人類審核員的表現(xiàn)仍更為出色?！?/p>