如何對機械人進行道德教育？講故事呀！

為機械人閱讀故事？那麼你會被當成一個十足的怪胎。而教授機械人閱讀故事？那麼你將得以預防一場機械人末日大災難。這個堂吉訶德式(即空想而不切實際)的想法被命名為「堂吉訶德」，它是由佐治亞理工學院的娛樂智能實驗室的主任Mark Riedl所研發的一項技術。

研究人員基於以往的「謝赫拉莎德」研究，進一步發展出「堂吉訶德」技術。它會為機械人呈現一些故事，而這些故事所闡述的內容是被人們所認可的尋常行為，比如幫助他人、準時不遲到、不要毀滅人類等等。這些故事來源於網民，他們為角色選擇了正確的、或被社會所認可的行為，就像「choose your own adventure」(選擇你自己的探險)這則故事一樣。

如果人工智能所做的決定和故事中的良好行為相匹配，那麼該技術就會對其進行「獎勵」(基本上就是些機器金星)。但如果它們的行為不符合故事中的道德準則，那麼他們便會對該行為進行消極強化。Riedl表示：

在其它方面，這些故事對人工智能而言同樣頗具價值。公司正在探索如何用兒童故事來教授人工智能進行語言解析，以使它們成為更好的虛擬助理。因此，從倫理道德到辦公業務，這些基礎故事都可以幫助機械人更好地融入我們的世界、而非毀滅我們的世界。

從此以後，機械人和人類過上了幸福的生活。

popsci