奧斯汀—戴爾技術(shù)公司產(chǎn)品與運(yùn)營總裁兼首席技術(shù)官約翰·羅斯(John Roese)表示，如果我們希望人類信任人工智能(AI)，那么就需要教會機(jī)器同理心。

羅斯在上周的戴爾技術(shù)峰會上與另外兩個戴爾技術(shù)公司的CTO組成了小組：戴爾Boomi的Michael Morton和RSA的Zulfikar Ramzan。Boomi是一家數(shù)據(jù)管理公司，它使企業(yè)可以在云和本地應(yīng)用程序之間集成和傳輸數(shù)據(jù)。RSA是一家安全公司，其創(chuàng)始人開創(chuàng)了公共密鑰加密技術(shù)。

這三個CTO討論了數(shù)據(jù)時代的三個主要問題：在人工智能(AI)驅(qū)動的實時數(shù)據(jù)環(huán)境中，基礎(chǔ)架構(gòu)是什么樣的?人類將在AI驅(qū)動的實時數(shù)據(jù)管道中扮演什么角色?在這個勇敢的新AI世界中，安全風(fēng)險模型將是什么樣?

這是三個非常聰明的家伙(沒有那么多喜劇演員，因為他們很快就承認(rèn)了)。因此，他們都對AI有一些非常有趣的想法。但是特別引起我注意的一個是善解人意的AI。羅斯(Roese)說過，這個話題他“在AI界頗有說服力”。實際上，他參加了2020年3月在SWSX上與此主題相關(guān)的小組討論。

羅斯說，除非人類可以信任機(jī)器學(xué)習(xí)，否則人工智能的進(jìn)步不會發(fā)生?，F(xiàn)在，存在巨大的信任差距。

羅斯說：“對于大多數(shù)人來說，人工智能是一個黑匣子，我們不信任它，因為我們不了解它內(nèi)部正在發(fā)生什么。”他補(bǔ)充說，“您的懷疑已經(jīng)得到了全面的解決。AI正在根據(jù)給定的數(shù)據(jù)工作。它并沒有考慮到您的情緒和幸福。它基本上是在獲取數(shù)據(jù)集，并在沒有上下文的情況下給出最佳答案。”

學(xué)到的AI同理心

另一方面，人類通常具有這種背景。因此，我們的決策可能并不總是反映最快，最線性的解決問題的方法。但是他們確實-或至少應(yīng)該-考慮給定的決定將如何影響其他人。換句話說：人類具有同理心。這意味著我們需要將倫理考慮因素整合到機(jī)器學(xué)習(xí)數(shù)據(jù)集中，以確保AI最終以取悅?cè)祟惖膶W(xué)習(xí)同理心做出決策。

羅斯說：“人工智能系統(tǒng)基于額外的刺激而工作。”“您提供這些數(shù)據(jù)流，而這些數(shù)據(jù)流從根本上影響模型。”但是，這也意味著人們可以感覺到AI系統(tǒng)的不良數(shù)據(jù)，例如偏差。

Roese建議將傳感器和生物反饋整合到機(jī)器學(xué)習(xí)模型中，以便AI可以了解與之交互的人類的情緒狀態(tài)。“如果我能夠測量您的生物反饋該怎么辦?我知道您的壓力水平，心臟呼吸頻率或出汗率嗎?如果這是模型工作方式的一個因素?因此，它了解到，即使我選擇了選項A，即使它給我?guī)砹瞬诲e的結(jié)果，也可能會激怒人類。”

顯然，那些試圖與與這些AI系統(tǒng)進(jìn)行交互的客戶，合作伙伴和員工贏得信任的企業(yè)。這些公司不想讓人類生氣，這就是為什么善解人意的AI如此重要的原因。

因此，我們教機(jī)器選擇選項B。羅斯說：“這可能會更加令人費(fèi)解，但是會有更好的結(jié)果。”“人類將減輕壓力，并且會更快樂。一旦您了解到AI代表您思考，就在考慮您的環(huán)境，您就會開始更加信任它。”