本篇文章分享了Grammarly新CEO在斯坦福對(duì)AI的見解。包括這一波新的 AI 浪潮，同時(shí)還分享了Grammaly 在應(yīng)對(duì)審核和偏見時(shí)的方法和策略，為年輕的創(chuàng)業(yè)者和技術(shù)從業(yè)者提供了經(jīng)驗(yàn)見解。我們一起來(lái)讀讀看吧！

(資料圖片)

2 年前，Rahul Roy-Chowdhury 離開工作了 14 年的谷歌 VP 崗位加入 Grammarly 擔(dān)任全球產(chǎn)品主管，他曾領(lǐng)導(dǎo)谷歌隱私、安全和安全團(tuán)隊(duì)，為谷歌的產(chǎn)品組合提供統(tǒng)一的解決方案，此外還領(lǐng)導(dǎo)過(guò) Chrome 瀏覽器和 Chrome OS 的產(chǎn)品管理團(tuán)隊(duì)。

今年上半年，Rahul 升任了 Grammarly 的 CEO，加速 Grammarly 對(duì)生成式 AI 技術(shù)的應(yīng)用，不僅幫助用戶寫作，還能幫助用戶提出好的想法，提高 Grammarly 的 LTV。

市場(chǎng)上曾擔(dān)心像 Grammarly 的產(chǎn)品會(huì)因?yàn)?ChatGPT 的出現(xiàn)而失去競(jìng)爭(zhēng)力，但 Rahul 不以為然，Grammarly 擁抱了 GPT，他認(rèn)為 AI 雖然存在風(fēng)險(xiǎn)，但這是一項(xiàng)強(qiáng)大的技術(shù)，Grammarly 也有責(zé)任通過(guò)安全負(fù)責(zé)的方式讓用戶處于體驗(yàn)到中心，而不增加額外的偏見和風(fēng)險(xiǎn)，他呼吁開發(fā)者們要確保生成式 AI 在幫助用戶的同時(shí)，不會(huì)剝奪用戶的控制權(quán)和個(gè)性。

在 Rahul 升任不久，在斯坦福大學(xué)展開過(guò)一次分享， Rahul 圍繞 AI 展開討論，涵蓋所有內(nèi)容包括這一波新的 AI 浪潮，此外 Rahul 還分享了Grammaly 在應(yīng)對(duì)內(nèi)容審核和偏見問(wèn)題時(shí)的方法和策略，也為年輕的創(chuàng)業(yè)者和技術(shù)從業(yè)者提供了寶貴的經(jīng)驗(yàn)和見解。

以下為這次分享的全部?jī)?nèi)容，enjoy～

一、在 Grammarly 使用和構(gòu)建 AI 幫助用戶

今天與大家分享的是關(guān)于我們?cè)?Grammarly 使用和構(gòu)建 AI 來(lái)幫助用戶的內(nèi)容，你們中的許多人都是用戶，我們已經(jīng)開發(fā)出了工具、技術(shù)和對(duì)于如何大規(guī)模構(gòu)建 AI 系統(tǒng)的理解，我希望分享這些經(jīng)驗(yàn)，以便你們可以從中受益，其中一些可以廣泛應(yīng)用，不僅局限于 Grammarly 。

實(shí)際上，我希望這成為一次對(duì)話，我希望我的演講不是結(jié)束，而是對(duì)話的開始，一場(chǎng)關(guān)于如何通過(guò) AI 來(lái)幫助我們，而不是傷害我們的對(duì)話，如何通過(guò) AI 來(lái)增強(qiáng)我們的能力和潛力，而不是削弱它，如何通過(guò) AI 來(lái)增強(qiáng)我們的技能，幫助我們以新的、更好的方式進(jìn)行溝通，而不是剝奪我們的發(fā)聲權(quán)，這是我今天愿意與你們分享的對(duì)話。

讓我們先做一次場(chǎng)景評(píng)估，我們現(xiàn)在處于什么狀態(tài)？現(xiàn)實(shí)是 AI 是正在塑造我們世界最強(qiáng)大的技術(shù)力量，至少在我看來(lái)，毫無(wú)疑問(wèn)，它已經(jīng)不僅僅是未來(lái)，已經(jīng)在幾乎所有大規(guī)模運(yùn)營(yíng)的行業(yè)中產(chǎn)生了巨大影響。

想想制造業(yè)， AI 被用于創(chuàng)造更好的組件， AI 被用于優(yōu)化全球供應(yīng)鏈； 想想醫(yī)療保健， AI 被用于幫助放射科醫(yī)生更早、更快、更準(zhǔn)確地檢測(cè)癌癥； 想想醫(yī)學(xué)， AI 被用于在藥物發(fā)現(xiàn)過(guò)程中幫助分析數(shù)十億種化合物，以確定最有前途的研究領(lǐng)域； 想想軟件， AI 正在推動(dòng)新的個(gè)性化工具，幫助我們?cè)诼殬I(yè)和個(gè)人生活中更加高效；

我們才剛剛開始，在我們的一生中 AI 將幫助我們解決最重要的問(wèn)題，例如全球變暖。隨著生成式 AI 的崛起，我相信大家都在關(guān)注， AI 還將幫助我們?cè)趧?chuàng)意表達(dá)方面，將高層次的想法轉(zhuǎn)化為具體的作品，成為藝術(shù)品、文學(xué)作品等。這是令人興奮的。

我本質(zhì)上是一個(gè)技術(shù)樂觀主義者，我在技術(shù)領(lǐng)域工作了很長(zhǎng)時(shí)間，我相信技術(shù)將幫助我們改善生活，改善世界。在我職業(yè)生涯中，我一次又一次地看到了這一點(diǎn)，我記得我們?cè)缙谡務(wù)?Chrome 時(shí)的情況，我記得當(dāng)我在 Chrome 項(xiàng)目上工作時(shí)，看到了網(wǎng)絡(luò)訪問(wèn)和低價(jià)智能手機(jī)將信息傳遞給全球數(shù)十億人的影響，我看到了這種影響，那是技術(shù)在規(guī)模上幫助人們的例子。

因此， AI 是美妙的，但是也伴隨著巨大的力量和責(zé)任， AI 也可能引起實(shí)際問(wèn)題造成傷害。不管是出于設(shè)計(jì)還是僅僅作為意外的副產(chǎn)品，不是有意為之，而是由于技術(shù)的強(qiáng)大而無(wú)意間發(fā)生的后果。你可以考慮基于 AI 的推薦引擎，它們已經(jīng)造成了實(shí)際的傷害，并引發(fā)了社會(huì)問(wèn)題，比如激進(jìn)化、成癮，或者是因?yàn)槌两谶@種技術(shù)中而忽視了現(xiàn)實(shí)世界的人際關(guān)系。

我的意思是，我們的大腦無(wú)法抵擋這些系統(tǒng)精心設(shè)計(jì)的多巴胺沖擊，作為一名父親，我擔(dān)心這一點(diǎn)，我希望我的孩子能夠接觸到 AI 所提供的一切好處，但我也希望保護(hù)他們免受這些傷害，如果你考慮到 AI 在我們生活中作出重大決策的情況，比如篩選工作申請(qǐng)或決定誰(shuí)獲得貸款批準(zhǔn)，那么這些系統(tǒng)中存在著潛在的數(shù)據(jù)偏見，這些偏見會(huì)造成實(shí)際的傷害。事實(shí)上，人們正在取得進(jìn)步，系統(tǒng)正在變得更好，事情正在改善。所以并不是一片黯淡和末日的故事，但是傷害是真實(shí)存在的。

我不知道你們是否看過(guò) John Oliver 的《Last Week Tonight with John Oliver》脫口秀，這個(gè)節(jié)目真的很搞笑。幾個(gè)月前，他的節(jié)目是關(guān)于 AI 的，非常值得一看，尤其是在考慮到你們正在上的課程和主題的情況下。但其中他強(qiáng)調(diào)的一點(diǎn)是， AI 被用于篩選工作申請(qǐng)，他們提到了許多問(wèn)題和偏見，以及該系統(tǒng)所面臨的許多挑戰(zhàn)。

但是從節(jié)目中最讓我印象深刻的一點(diǎn)是，這些公司的領(lǐng)導(dǎo)之一，提供這些服務(wù)的公司，他對(duì)求職者的建議是不要與眾不同。你的任務(wù)不是獨(dú)特、特殊或與眾不同，你的任務(wù)是通過(guò) AI 進(jìn)入真正的人類世界。

這太可怕了，太沒有賦權(quán)感了，太反烏托邦了，這不是我想要的未來(lái)，我不想要這樣的未來(lái)，我相信你們也不會(huì)想要這樣的未來(lái)，因此傷害是真實(shí)存在的，所以問(wèn)題是我們應(yīng)該怎么辦？我們不應(yīng)該停止。我認(rèn)為我們應(yīng)該選擇一個(gè)有意識(shí)的道路向前。

我想向大家傳達(dá)的一件事——我們可以決定如何發(fā)展和部署這項(xiàng)技術(shù)。不要讓技術(shù)來(lái)對(duì)待我們，而是讓我們決定這項(xiàng)技術(shù)如何部署，以及它如何影響我們的日常生活。我們有權(quán)力，不要放棄這個(gè)權(quán)力，這對(duì)于你們來(lái)說(shuō)，現(xiàn)在進(jìn)入就業(yè)市場(chǎng)，開始職業(yè)生涯是一個(gè)非常重要的事情，只要記住我們有權(quán)力和控制權(quán)，決定這項(xiàng)技術(shù)如何塑造，以及它在我們生活中的形態(tài)。

這就是今天對(duì)話的核心，所以在 Grammarly ，我們正在努力構(gòu)建框架、技術(shù)和工具，試圖將 AI 應(yīng)用于大規(guī)模人群。

二、“ TRUE ”框架

我們有一個(gè)基本的信念 —— AI 是關(guān)于增強(qiáng)人類潛力的，我們稱之為增強(qiáng)智能：AI 在增強(qiáng)我們的同時(shí)是成功的，當(dāng)它使我們變得更好、增強(qiáng)了我們的能力時(shí)，這應(yīng)該是這些系統(tǒng)的目標(biāo)。

實(shí)際上，我真的希望我們可以重新定義 AI 的縮寫，讓其代表增強(qiáng)智能，而不是 AI ，因?yàn)槲艺J(rèn)為這實(shí)際上才是我們從這些系統(tǒng)中期望的結(jié)果。你希望它們能夠幫助我們 。AI 會(huì)引發(fā)這些關(guān)于它是否有意識(shí)、是否有感知能力的討論，而這實(shí)際上超出了這些系統(tǒng)的實(shí)用性，它們的目標(biāo)是幫助我們。

我們希望構(gòu)建系統(tǒng)，將系統(tǒng)部署給用戶，使其始終保持這種增強(qiáng)智能，我們使用了一個(gè)稱為“ TRUE ”框架：T代表信任，即承諾實(shí)施世界一流的隱私和安全性，R代表責(zé)任，即關(guān)注公平和用戶安全，U代表用戶控制，真正讓用戶掌控，并確保用戶在整個(gè)體驗(yàn)過(guò)程中有能力，E代表同理心，確保我們真正理解我們的用戶需要，解決真正的用戶問(wèn)題，所以這就是 TRUE 框架。

我們給你們提供一個(gè)案例研究，介紹 TRUE 框架如何得到應(yīng)用，基于在大規(guī)模構(gòu)建系統(tǒng)方面的實(shí)際建議。因此，讓我退后一步，向你們解釋一下 Grammarly 的業(yè)務(wù)，因?yàn)檫@將幫助你們理解案例研究，所以 Grammarly 的業(yè)務(wù)是幫助人們更好地溝通。

1. T——信任

我們都有不同的風(fēng)格，有不同的背景，我們使用許多不同的工具進(jìn)行溝通，而且有人被完全理解并以他們的預(yù)期方式傳達(dá)，使用了正確的語(yǔ)調(diào)、正確的信息，這樣的機(jī)會(huì)并不高。事實(shí)上，我們正在使用的溝通工具數(shù)量不斷增加，因?yàn)楣ぞ叩木坝^變得分散，且我們的工作方式在過(guò)去幾年中發(fā)生了巨大的變化，有更多的遠(yuǎn)程工作、分布式團(tuán)隊(duì)、全球團(tuán)隊(duì)試圖在不同的背景下協(xié)同工作，所以溝通始終是一個(gè)難題。

現(xiàn)在比以前更難了，溝通不太好的代價(jià)非常高。事實(shí)上，我們進(jìn)行了一項(xiàng)研究，發(fā)現(xiàn)僅在美國(guó)，單單一個(gè)年度內(nèi)，低效的溝通成本就達(dá)到了 1.2 萬(wàn)億美元，這個(gè)數(shù)字只是一年前的數(shù)據(jù)，這個(gè)數(shù)字不會(huì)下降，而是上升，因?yàn)闇贤ǖ臄?shù)量在增加，而溝通的效果在下降，這是一個(gè)很難解決的問(wèn)題。

當(dāng)我們真正解決了它時(shí)，情況會(huì)變得很棒，我們能夠準(zhǔn)確地表達(dá)自己的意思，彼此理解，感覺在公司里可以更好地協(xié)作和完成任務(wù)，公司也會(huì)報(bào)告這一點(diǎn)，他們看到了更好的結(jié)果 —— 團(tuán)隊(duì)處于流動(dòng)狀態(tài)，工作更快，取得更好的成果，所以這是一個(gè)溝通問(wèn)題，這是一個(gè)我們正在 Grammarly 中解決的問(wèn)題。

2. R——責(zé)任、U——用戶控制

現(xiàn)在，每個(gè)人都知道生成式 AI 很重要，每個(gè)人都在研究生成式 AI ，我們?cè)?Grammarly 一直在研究，大約 4 月份我們推出了生成式 AI 版本，一個(gè)名為“ GrammarlyGo ”的產(chǎn)品，為了將 GrammarlyGo 帶給我們的用戶，我們?cè)谌蛴袛?shù)百萬(wàn)用戶。

我們使用了 TRUE 框架，那么讓我詳細(xì)地為你們解釋一下，在我們考慮我們剛剛推出的產(chǎn)品時(shí)，我們?nèi)绾嗡伎歼@個(gè)框架，如何將其應(yīng)用于我們的用戶呢？讓我們從信任開始，信任是確保你理解用戶對(duì)其數(shù)據(jù)的期望，這些問(wèn)題是你正在收集什么數(shù)據(jù)？你對(duì)數(shù)據(jù)做了什么？你將其保留多長(zhǎng)時(shí)間？實(shí)際上，在所有這些問(wèn)題的根本上有一個(gè)基本的問(wèn)題，那就是你的動(dòng)機(jī)和我的動(dòng)機(jī)是一致的還是不一致的？

在 Grammarly ，我們構(gòu)建了一個(gè)圍繞確保我們的動(dòng)機(jī)和用戶的動(dòng)機(jī)始終 100% 一致的業(yè)務(wù)和公司，這是一個(gè)非常簡(jiǎn)單的決策過(guò)程，一個(gè)新的商業(yè)模式出現(xiàn)在我們面前，我們思考一下，有收入的潛力，這很有趣，但是它是否會(huì)導(dǎo)致我們?cè)谔幚碛脩魯?shù)據(jù)的方式方面與用戶的興趣不一致？答案是肯定的，我們不會(huì)做。

用戶的一致性是至關(guān)重要的，這實(shí)際上是隱私的根本，是獲取理解一致性的關(guān)鍵，如果隱私是關(guān)于一致性以及你將如何處理用戶數(shù)據(jù)，那么安全性就是確保該數(shù)據(jù)免受損害、免受濫用；在 Grammarly ，多年來(lái)我們?cè)诎踩矫嫱度肓撕芏啵覀儞碛姓麄€(gè)字母表的認(rèn)證，包括 sock、HIPPA、CCPA，應(yīng)有盡有，而且這些事情不會(huì)很快發(fā)生，他們需要很長(zhǎng)時(shí)間，需要很多投資來(lái)完成，而且在事后難以添加。

現(xiàn)在，隨著像 LLMs 這樣的新技術(shù)的出現(xiàn)，出現(xiàn)了新的威脅，對(duì)于 LLMs 這樣的威脅模型的全面了解尚未達(dá)到，所以應(yīng)對(duì)這種不確定性的最佳方式是真正擁有多層次的安全性策略。

不僅僅依靠一件事情的良好運(yùn)作，而是依靠多種事物一起工作，采取組合方法，比如漏洞賞金計(jì)劃或者像紅隊(duì)一樣，紅隊(duì)的概念是你有一個(gè)團(tuán)隊(duì)，我們?cè)?Grammarly 就有這樣一個(gè)團(tuán)隊(duì)，他們的工作是主動(dòng)找出你系統(tǒng)中的漏洞，這樣我們就能夠在外部黑客之前找到并修復(fù)它們，所以真正投資于這種安全方法的組合是處理新技術(shù)的正確方式。

我想要給你們帶來(lái)的關(guān)于信任這個(gè)理念的一個(gè)主要觀點(diǎn)是，要贏得它非常困難，失去它非常容易，事后很難添加，所以當(dāng)你們開始自己的職業(yè)，思考所有你們將要構(gòu)建的酷應(yīng)用、企業(yè)和技術(shù)時(shí)，要牢記信任，因?yàn)樾湃涡枰蔀槟銈冏銎渌磺械幕A(chǔ)，我們需要贏得和加強(qiáng)信任，使其成為基礎(chǔ)，在沒有這種基礎(chǔ)的情況下，要想使一家成功的公司擴(kuò)展是非常困難的基礎(chǔ)。

放在那里，這就是信任，所以，在 GrammarlyGo 中，我們應(yīng)用了這個(gè)框架，這些技術(shù)，所有的投資，它們幫助我們推出GrammarlyGo ，保持了我們與用戶之間的信任關(guān)系。責(zé)任是確保我們專注于公平，專注于用戶安全。這里需要做很多技術(shù)性工作，例如評(píng)估并確保你的ML模型具有非常高質(zhì)量的訓(xùn)練數(shù)據(jù)，確保數(shù)據(jù)沒有偏見，確保你可以跟蹤和查找敏感文本，比如仇恨言論。

例如，在 Grammarly 中，我們投資了敏感文本分類器。因此，你可以將 LLMs 生成的文本想象成，當(dāng)我對(duì)文本進(jìn)行分類時(shí)，我會(huì)捕捉到它并說(shuō)，嘿，這是敏感文本，然后我們可以采取適當(dāng)?shù)男袆?dòng)。

例如，我們可以說(shuō)，如果用戶看到這段文本，對(duì)他們來(lái)說(shuō)體驗(yàn)不會(huì)很好，我們不會(huì)向他們展示這段文本。因此，我們實(shí)際上可以保護(hù)我們的用戶免受這些模型可能造成的潛在傷害。所以我們?cè)谶@些技術(shù)上投資，我強(qiáng)烈鼓勵(lì)每個(gè)人在考慮大規(guī)模構(gòu)建 AI 時(shí)，要深入思考如何做好這些事情。

質(zhì)量評(píng)估，敏感文本分類器來(lái)檢測(cè)這些問(wèn)題。這些是需要正確解決的重要問(wèn)題。但這不僅僅是關(guān)于技術(shù)，因?yàn)闊o(wú)論你做什么，無(wú)論你構(gòu)建什么，無(wú)論你的分類器有多好，當(dāng)你的真實(shí)用戶在現(xiàn)實(shí)生活中使用你的產(chǎn)品時(shí)，總會(huì)遇到一些意想不到的問(wèn)題。那么你打算怎么做呢？這是你必須提前考慮并在事后不是反應(yīng)的問(wèn)題。

因此，在 Grammarly 我們處理這個(gè)問(wèn)題的方式是，我們?yōu)橛脩粼诋a(chǎn)品中發(fā)送反饋提供了許多不同的途徑，例如電子郵件、客戶服務(wù)團(tuán)隊(duì)。這不僅僅是給我們反饋，我們有一個(gè)流程，當(dāng)我們收到反饋時(shí)，我們可以采取行動(dòng)。

有人正在查看并說(shuō)這是一個(gè)問(wèn)題。我們必須解決這個(gè)問(wèn)題，誰(shuí)來(lái)解決？誰(shuí)值班？讓我們解決它，讓我們發(fā)布修復(fù)，讓我們保護(hù)用戶安全。因此，責(zé)任的一個(gè)關(guān)鍵部分不僅僅是正在發(fā)生的技術(shù)創(chuàng)新，這是重要且偉大的，而且還要確保在你的真實(shí)用戶在他們的實(shí)際生活中使用你的產(chǎn)品時(shí)，你有一些計(jì)劃來(lái)應(yīng)對(duì)不可避免的意外事情，那么你的答案是什么？有答案是很重要的，它可能不會(huì)完全與 Grammrly 相同。

我們需要一些答案。所以這就是責(zé)任、用戶和控制：用戶應(yīng)該感覺他們對(duì)整個(gè)體驗(yàn)有控制權(quán)，所以他們不會(huì)覺得技術(shù)是施加給他們的，他們覺得他們控制著體驗(yàn)，他們正在推動(dòng)過(guò)程，他們正在推動(dòng)結(jié)果。

因此，對(duì)于 GrammarlyGo ，我們代表用戶生成文本。首先，我們希望確保用戶感覺 GrammarlyGo 生成的文本聽起來(lái)像他們，代表他們的聲音，因此，我們構(gòu)建了一個(gè)名為“My Voice”的功能，用戶可以控制他們的聲音，這不僅僅是模板化的通用文本，它反映了你想要的聲音，然后，整個(gè)體驗(yàn)允許用戶看到發(fā)生了什么，我們提供提示，但最終我們總是讓用戶做決策，這不是偶然的。

這不僅僅是發(fā)生的事情，這是一個(gè)有意的設(shè)計(jì)選擇。因此，在設(shè)計(jì)和構(gòu)建這些功能和產(chǎn)品時(shí)，你會(huì)面臨這些選擇，我要把用戶引導(dǎo)進(jìn)來(lái)嗎？還是不引導(dǎo)？

根據(jù)我的建議和我艱難的經(jīng)驗(yàn)，將用戶引入其中，確保他們感覺他們對(duì)體驗(yàn)有控制權(quán)，這是 TRUE 框架的一個(gè)部分。

3. E——同理心

最后一個(gè)部分是共情，這是一個(gè)理念。我們正在努力解決真正的用戶問(wèn)題，這聽起來(lái)是一個(gè)顯而易見的事情，那就是你會(huì)做的事情，但實(shí)際上，在我職業(yè)生涯中反復(fù)看到的是很容易忽視這一點(diǎn)，因?yàn)橛刑嗟母蓴_。

你忙于為你的產(chǎn)品和功能工作，最初是帶著最好的意圖開始的，這是用戶的問(wèn)題，我要解決它，然后會(huì)發(fā)生一些事情，比如這邊的競(jìng)爭(zhēng)對(duì)手做了另一件事情，我必須做出回應(yīng)，或者這里有一所學(xué)校，有了新技術(shù)，我必須讓它上市，讓我們看看會(huì)發(fā)生什么，所以很容易受到干擾。

你看了很多不同的事情，這些時(shí)間沒有花在用戶身上，當(dāng)發(fā)生這種情況時(shí)，通常你的產(chǎn)品會(huì)偏離軌道。實(shí)際上不能幫助解決真正的用戶需求。因此，你必須有意地迫使自己返回來(lái)，并問(wèn)自己一個(gè)問(wèn)題，那就是用戶的需求是什么？我們正在為他們解決什么問(wèn)題？我如何確信我的解決方案實(shí)際上是解決了他們真正遇到的問(wèn)題？

而不僅僅是因?yàn)樗芸?，以及你想出了這個(gè)點(diǎn)子，要把它推出去，看看會(huì)發(fā)生什么。所以在構(gòu)建和部署這些系統(tǒng)時(shí)，將共情不斷帶回到對(duì)話中是非常重要的，這就是 TRUE 框架，現(xiàn)在我們?cè)?Grammarly 使用它，但這與 Grammarly 沒有特定的相關(guān)性。

我的希望是你們所有人都可以看到這個(gè)框架的價(jià)值，并在你們的工作中應(yīng)用它，在將來(lái)的工作中應(yīng)用它，在構(gòu)建應(yīng)用程序時(shí)考慮使用這個(gè)框架，想象一下如果真正的框架成為事實(shí)上的做事方式，會(huì)發(fā)生什么，想象一下在哪里？

所有應(yīng)用程序、所有行業(yè)、每個(gè)人都在使用這個(gè)真實(shí)的框架，那么那個(gè)世界會(huì)是什么樣子？讓我們?cè)囍ㄟ^(guò)這個(gè)可視化的練習(xí)來(lái)走一遍，這是一個(gè)人們能夠感到有能力做得更好、取得更好結(jié)果的世界，那是我們?cè)诖笠?guī)模部署 AI 來(lái)幫助人們?nèi)〉酶媒Y(jié)果的世界，那是我想要的世界。

我們?cè)陂_始時(shí)談到 AI 承諾的世界，如果你不經(jīng)過(guò)深思熟慮和刻意考慮，就會(huì)帶來(lái)所有問(wèn)題.。

所以請(qǐng)記住我們有權(quán)力決定如何部署和構(gòu)建這項(xiàng)技術(shù)，你們都是科技領(lǐng)域的領(lǐng)袖，或者未來(lái)的科技領(lǐng)袖。

我的愿望和希望是，你們所有人都要深入思考如何使用這種權(quán)力；我的請(qǐng)求是請(qǐng)承諾使用這種權(quán)力來(lái)構(gòu)建能夠增強(qiáng)人類潛力的 AI ，讓人類能夠做得更好，提高我們的潛力、能力，賦予我們超能力。

三、Q&A

以下部分是Rahul 有啟發(fā)的 Q&A 分享：

并非每個(gè)人都像 Grammarly 一樣具有共情能力，是否認(rèn)為僅僅有了這些框架就足夠了？對(duì)政府監(jiān)管的立場(chǎng)是什么？是否認(rèn)為政府監(jiān)管有必要？

我認(rèn)為我對(duì)政府監(jiān)管的看法是，這是一個(gè)重要的討論，就像我在一開始說(shuō)的那樣，這是一個(gè)重要的討論，我認(rèn)為對(duì)于這種強(qiáng)大的技術(shù)來(lái)說(shuō)，政府的監(jiān)管是必要的，也是受歡迎的，但我想說(shuō)的是，作為未來(lái)科技領(lǐng)域的領(lǐng)袖，應(yīng)該采取一種積極的責(zé)任態(tài)度，如果在有監(jiān)管并且有明確的指導(dǎo)的情況下，已經(jīng)在做所有正確的事情，已經(jīng)深入思考了如何在負(fù)責(zé)任的情況下大規(guī)模部署這些系統(tǒng)，而不僅僅是因?yàn)橛斜O(jiān)管才去做。

正確的做法在市場(chǎng)上也會(huì)勝出嗎？如果市場(chǎng)上有一個(gè)無(wú)情的競(jìng)爭(zhēng)對(duì)手，他們會(huì)在生成式 AI 領(lǐng)域戰(zhàn)勝一個(gè)有道德的對(duì)手嗎？

我相信會(huì)，因?yàn)槲铱偸强吹郊夹g(shù)，產(chǎn)生困境，但技術(shù)總是找到一種擺脫困境的方式，技術(shù)總是創(chuàng)造出良好的結(jié)果，最終成為一種善的力量。我相信這對(duì)于 AI 也是如此，但這不是一條定律。但我想要確保大家理解的是，這不是先驗(yàn)的事情，這不是自然法則，這是我們的行為和行動(dòng)帶來(lái)了這些結(jié)果，所以關(guān)于好人是否會(huì)贏還是不會(huì)贏的問(wèn)題，不是說(shuō)有一種物理定律會(huì)實(shí)現(xiàn)那個(gè)結(jié)果，是我們的集體行動(dòng)會(huì)使之成真與否，這就是為什么我實(shí)際上很高興與大家進(jìn)行這次對(duì)話，因?yàn)槲抑皇窍氪_保你們都理解你們有權(quán)力來(lái)塑造這個(gè)結(jié)果。

我再問(wèn)一個(gè)問(wèn)題，然后我們會(huì)開放提問(wèn)，但是它是否具有惡性影響？因?yàn)槲覀冊(cè)趲字芮把?qǐng)了Open AI 的首席科學(xué)官 Ilya 參加活動(dòng)，如果你與Open AI 的人討論他們將來(lái)的戰(zhàn)略決策，這主要是由Sam，Ilya 通常會(huì)回答說(shuō)，我們將問(wèn) AI 應(yīng)該做什么，現(xiàn)在 AI 已經(jīng)在流程中得到了如此緊密的整合，以至于我作為人類的終點(diǎn)在哪里？AI 的起點(diǎn)在哪里？界限可能會(huì)變得非常模糊，即使是你提到的反饋對(duì)你的利益和激勵(lì)產(chǎn)生了影響，甚至可以影響你的激勵(lì)和對(duì)齊的感知，如果生成式 AI 在產(chǎn)品開發(fā)過(guò)程中如此深入地整合進(jìn)去，我們是否能夠與之保持分離？

我認(rèn)為我們絕對(duì)應(yīng)該，這關(guān)乎用戶控制，這是一個(gè)很好的例子，讓我們使用 AI 來(lái)幫助我們，也許 AI 可以幫助我們創(chuàng)造出很棒的創(chuàng)意，并找出下一步要做什么？我的公司策略是什么樣的？如果 AI 幫助我找出 Grammaly 的公司戰(zhàn)略，那將是很好的，但最終我們必須掌控局面，我們不應(yīng)該放棄這種系統(tǒng)控制。

目前很多行業(yè)似乎有些驚慌，新聞業(yè)、音樂業(yè)等等，所以我們?nèi)绾纹胶?AI 助手的能力，使之不成為實(shí)際的內(nèi)容創(chuàng)作者？如何將權(quán)力交還給不同的行業(yè)？

我認(rèn)為有很多不確定性和很多恐慌，我認(rèn)為這是事實(shí)，每一項(xiàng)重大科技創(chuàng)新，如果你回溯到70年代，美國(guó)第一次大規(guī)模部署 ATM （自動(dòng)取款機(jī)），銀行出納員開始恐慌，因?yàn)樗麄儞?dān)心 ATM ，認(rèn)為我們的工作要完了。

實(shí)際上，ATM 機(jī)的出現(xiàn)讓人們感到恐懼，事實(shí)上，由于 ATM 的廣泛使用，開設(shè)銀行分行變得更便宜，因?yàn)椴恍枰敲炊嗳藖?lái)員工，因此銀行出納員可以繼續(xù)從事更有意義、更復(fù)雜、更高層次的任務(wù)；在美國(guó)， ATM 投入使用之前的銀行出納員人數(shù)少于使用 ATM 之后的人數(shù)，科技總是找到幫助我們的方法，但我們需要確保這一點(diǎn)成為事實(shí)。假設(shè)你是 Google 的產(chǎn)品經(jīng)理，你構(gòu)建的東西對(duì)全球數(shù)十億人產(chǎn)生了真正的影響，所以請(qǐng)將這些原則牢記心中，考慮一下，你正在構(gòu)建一個(gè)非常重要的東西，不要把它僅僅作為一個(gè)產(chǎn)品扔掉。

我想表達(dá)的是有意識(shí)地進(jìn)行設(shè)計(jì)，把用戶放在首位，確保你解決了用戶的問(wèn)題，對(duì)用戶任務(wù)懷有同理心，確保用戶控制是核心，所以我們可以通過(guò)我們集體采取的行動(dòng)來(lái)塑造這個(gè)未來(lái)，每個(gè)人的單個(gè)行動(dòng)都會(huì)在成百上千的工程師和產(chǎn)品經(jīng)理致力于構(gòu)建的非?？岬臇|西中，合并在一起，這才是未來(lái)。

關(guān)于 Grammarly 如何訓(xùn)練這個(gè)模型的？

我們?cè)贕rammaly Go推出時(shí)，這是一個(gè)非常快速發(fā)展的領(lǐng)域，我們使用了在Azure上運(yùn)行的GPT 3.5 Turbo，我們所做的是應(yīng)用了我們所使用的所有其他部署，比如敏感文本分類器作為后處理步驟。

你可以查看生成的輸出并說(shuō)這不好要更改，像我的聲音這樣的功能，將其視為對(duì)底層模型的提示工程，然后在未來(lái)，這些基礎(chǔ)模型的領(lǐng)域正在迅速變化，將來(lái)可能會(huì)有一些其他更好的模型，也許是更好的開源模型，也許是在設(shè)備上進(jìn)行本地模型學(xué)習(xí)的更好的模型；我們?cè)谫|(zhì)量評(píng)估方面投入了很多精力，如果出現(xiàn)新模型，我們已經(jīng)準(zhǔn)備好了一個(gè)專家團(tuán)隊(duì)，可以評(píng)估模型的質(zhì)量、偏見、公平性和安全性。因此，在這些模型發(fā)展演變時(shí)，我們準(zhǔn)備進(jìn)行相應(yīng)的更改。

關(guān)于LLM的問(wèn)題的后續(xù)問(wèn)題，特別是信任和安全等方面。

眾所周知，有關(guān)LLM的輸入數(shù)據(jù)以及數(shù)據(jù)的廣泛性和透明性存在很多討論，我認(rèn)為你真正在問(wèn)的是這實(shí)際上是系統(tǒng)設(shè)計(jì)的產(chǎn)物，而不是模型的訓(xùn)練方式。作為用戶，很難理解哪些訓(xùn)練數(shù)據(jù)用于生成特定的輸出。正如你所說(shuō)，領(lǐng)域非常廣泛。因此，一個(gè)例子是，在 GrammarlyGo 中，你可以創(chuàng)建你自己的聲音，你可以說(shuō)，這是我想要的聲音。這是我的聲音。因此，產(chǎn)品體驗(yàn)使你可以控制輸入和輸出。因此，我認(rèn)為解決這個(gè)用戶困境的方法是，如何解釋給用戶這么多復(fù)雜性是非常有深思熟慮的設(shè)計(jì)，用戶，這回到了用戶控制，這是非常重要的，用戶應(yīng)該感覺自己理解并有能力影響塑造體驗(yàn)。

AI 在改善溝通方面能做什么？它現(xiàn)在還做不到什么？你認(rèn)為它會(huì)如何發(fā)展？

GrammarlyGo 有一個(gè)叫做“快速回復(fù)”的功能。所以我每天都會(huì)收到很多郵件。也許有人給我發(fā)了一封郵件，說(shuō)，“嗨，我想見面討論一些話題。”因此，gramalie go會(huì)理解郵件的內(nèi)容，理解郵件的意圖，并為我提供一些選擇，以回應(yīng)該郵件。有時(shí)候是接受，有時(shí)候是建議，有時(shí)候是禮貌地拒絕。

然后它會(huì)為我生成一封電子郵件，這是一封表面上的電子郵件，但它會(huì)在我的聲音中進(jìn)行，而且充滿了完整的上下文。它會(huì)生成一封電子郵件，我實(shí)際上感到很高興和自豪地發(fā)送，而不是像機(jī)器人一樣的通用文本。我經(jīng)常使用這個(gè)功能，它對(duì)我來(lái)說(shuō)是一個(gè)巨大的生產(chǎn)力技巧，幫助我在我的日常工作中。有很多事情現(xiàn)在還不能做到。但老實(shí)說(shuō)，這個(gè)領(lǐng)域變化得太快了。

推理技能的模型似乎都是這些模型變得越來(lái)越大時(shí)的 emergent properties（新興特性），這似乎有點(diǎn)神秘，盡管我不是這個(gè)領(lǐng)域的研究人員，但從每一代模型中新出現(xiàn)的特性是什么，似乎仍然有點(diǎn)神秘，我不認(rèn)為有人真正理解了這一點(diǎn)，所以我們也在學(xué)習(xí)的，過(guò)去的六個(gè)月是瘋狂的。

大多數(shù)人在六個(gè)月前根本不知道什么是 LLM，突然之間，它在六個(gè)月內(nèi)就占領(lǐng)了整個(gè)世界，真是太瘋狂了，在接下來(lái)的六個(gè)月、十二個(gè)月、二十四個(gè)月內(nèi)，這將如何發(fā)展，我不太確定。我想我們只能拭目以待。

如果我是斯坦福的學(xué)生，對(duì)生成式 AI 充滿激情，并且擁有充足的時(shí)間，我想我會(huì)這樣說(shuō)專注于用戶問(wèn)題。不能只是說(shuō)，我要做生成式 AI ，這是我對(duì)此的看法。其他人可能會(huì)持有不同意見。我要解決一個(gè)用戶問(wèn)題，我可以使用生成式 AI 來(lái)很好地解決它，在我的職業(yè)生涯中學(xué)到的一件事是，最好是喜歡上問(wèn)題，但不要喜歡上解決方案，因?yàn)榻鉀Q方案會(huì)隨著時(shí)間的推移而改變。通常情況下，我們最終會(huì)喜歡上解決方案而不是問(wèn)題。你甚至意識(shí)不到這正在發(fā)生。然后當(dāng)有更好的解決方案出現(xiàn)時(shí)，你會(huì)說(shuō)，不，但我的東西，那太棒了。

實(shí)際上，最好不要過(guò)于依賴任何一個(gè)解決方案，所以我會(huì)說(shuō)，我能給你的最好建議是找到那些問(wèn)題，找到值得解決的問(wèn)題，從那里開始，生成式 AI 將是解決這些問(wèn)題的好方法。

Grammarly 實(shí)際上是一個(gè)產(chǎn)品體驗(yàn)，但它適用于你使用的所有其他應(yīng)用程序，它不是一個(gè)定制的體驗(yàn)，你可以認(rèn)為它是一種疊加在你使用的每個(gè)其他產(chǎn)品上的產(chǎn)品，從全面的角度來(lái)看，我們將從今天開始擁有多個(gè)產(chǎn)品，我們有一個(gè)擴(kuò)展，我們有移動(dòng)產(chǎn)品，我們正在尋找原生應(yīng)用，而且在某個(gè)時(shí)候，我們將從一套產(chǎn)品轉(zhuǎn)變?yōu)橐粋€(gè)平臺(tái)，但現(xiàn)在我們非常專注于進(jìn)入我們服務(wù)的入口，這項(xiàng)服務(wù)在人們寫作的地方都可以使用。

關(guān)于那個(gè)什么我和 AI 聊天的迷因，我討厭那個(gè)迷因，讓我們確保那個(gè)迷因不成為現(xiàn)實(shí)，讓我給你一些真實(shí)的數(shù)據(jù)點(diǎn)，我談過(guò)那個(gè)1.2萬(wàn)億美元的損失的事情。事實(shí)是，美國(guó)的平均知識(shí)工作者在全球來(lái)看花費(fèi)了超過(guò)一半的工作周在書面溝通，過(guò)去的12個(gè)月中這個(gè)數(shù)字增長(zhǎng)了18%，所以這在增加，然而在同一個(gè)12個(gè)月的時(shí)間內(nèi)，書面溝通的效果下降了12%，所以數(shù)量在增加，質(zhì)量在下降，因此，我們無(wú)法擺脫這個(gè)問(wèn)題，我們不能通過(guò)說(shuō)做更多，來(lái)解決這個(gè)問(wèn)題，如果我能在跑步機(jī)上跑得更快一點(diǎn)。

事實(shí)上，你做得越多，情況就越糟，所以真正的答案必須是，必須更好地溝通，不是更多，而是更好，因?yàn)閿?shù)據(jù)就是這樣，我并不是憑空捏造的，這就是數(shù)據(jù)所說(shuō)的，你必須弄清楚如何更好地溝通。

如果你想想，如果考慮一下生成式 AI ，我們已經(jīng)在如此多地進(jìn)行溝通，對(duì)吧？我們已經(jīng)降低了溝通的質(zhì)量，然后你想想溝通成本或內(nèi)容成本的下降，現(xiàn)在只要使用生成式 AI ，就可以輕松地創(chuàng)建大量的博客文章等等，用生成式 AI 你可以做到這一點(diǎn)，這項(xiàng)技術(shù)使你能夠?qū)崿F(xiàn)這一點(diǎn)，但是那會(huì)有什么幫助呢？

你只會(huì)將這 18% 增加到 50%、60%，你會(huì)將這 12% 降到負(fù) 50%，那不會(huì)有任何幫助，這就是為什么你真的要回到用戶問(wèn)題，而當(dāng)你考慮如何使用生成式 AI 創(chuàng)業(yè)，如何使用它時(shí)，這就是你的座右銘，這會(huì)引導(dǎo)你找到正確的解決方案。

在 Grammarly 內(nèi)部，是如何決定或優(yōu)先考慮你的路線圖的呢？這是有一些技術(shù)、一些技巧可以使用，但歸根結(jié)底，這是一門藝術(shù)，而不是科學(xué)，因此有些事情你可以弄清楚，比如你正在解決什么用戶問(wèn)題？為什么這些是最重要的用戶問(wèn)題？我們有什么數(shù)據(jù)來(lái)支持它？我們與用戶交談，我們進(jìn)行訪談。

因此，有很多輸入，以幫助我們了解問(wèn)題領(lǐng)域，然后有一些事情，比如，隱私問(wèn)題如何？我們是否保持一致？我們是否不保持一致？所以你可以在那里非常清楚地開始使用過(guò)濾器。然后你可以進(jìn)行一些影響評(píng)估，比如這件事情做起來(lái)很好，但影響可能是邊緣的，另一件事情做起來(lái)需要同樣的時(shí)間，但實(shí)際上對(duì)我們的用戶產(chǎn)生了巨大的影響，所以讓我們專注于最大化影響，有一系列的這些東西，你可以放在那里作為指導(dǎo)方針和安全措施以及過(guò)濾器，但歸根結(jié)底，還是需要判斷和團(tuán)隊(duì)花費(fèi)了很多時(shí)間在 Grammarly 、 Google 以及每一家公司真的在辯論、討論和爭(zhēng)論路線圖和優(yōu)先事項(xiàng)，你知道，也許在某個(gè)時(shí)候， AI 會(huì)告訴我們?cè)撟鍪裁?，但現(xiàn)在我們真的必須在這方面進(jìn)行很多辯論、討論。

關(guān)于在過(guò)濾潛在引發(fā)情感的言論; 審查以及這些 AI 限制訪問(wèn)某些想法之間的界限是什么？

我們每天都在自問(wèn)的問(wèn)題，我不知道是否有任何完美的界線刻在石頭上或涂在油漆上，或者無(wú)論用什么比喻，我們有一支語(yǔ)言學(xué)家團(tuán)隊(duì)，他們正在追蹤和研究權(quán)威來(lái)源，了解不同種類的偏見、仇恨言論是什么，然后我們?cè)噲D從這些來(lái)源中匯編出一系列規(guī)則，關(guān)于這個(gè)問(wèn)題的思考是什么？有什么研究、什么學(xué)術(shù)成果？你如何在產(chǎn)品中有意義地應(yīng)用這些？這是在不斷變化的？

所以并不是像你做完了就說(shuō)，好的，打鉤，我完成了，這是一個(gè)持續(xù)的評(píng)估過(guò)程，當(dāng)疫情變得流行起來(lái)時(shí)，其中一個(gè)新情況就是以許多偏見的方式來(lái)稱呼疫情，這就成為一個(gè)問(wèn)題；因此， Grammarly 的敏感文本分類器能夠捕捉到這些情況，并能夠向用戶提供建議，歸根結(jié)底，我們不能替你寫作，但我們會(huì)建議你，這是一個(gè)不斷變化和適應(yīng)的事情，我們正在努力盡可能與現(xiàn)狀保持一致。

作者：有新；來(lái)源公眾號(hào)：有新Newin

本文由 @有新Newin 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)許可，禁止轉(zhuǎn)載

題圖來(lái)自 Unsplash，基于 CC0 協(xié)議

關(guān)鍵詞：

責(zé)任編輯：