新華網北京12月13日(新華社記者/李宓) 自動運転車、囲碁の棋士とコンピュータの対局、人工知能の反乱を描いた米国のドラマ『ウエストワールド』の大ヒットなど、2016年は人工智能とその関係分野が産業界、学術界、さらには全社会で熱い議論を呼んだ。これと同時に、人々の人工智能に対する懸念も解消されていない。人工智能はいつ、どんなふうに問題を起こすのだろうか。
1年の締めくくりを前に、多数の人工智能専門家が2016年の人工智能の典型的な「失敗例」を分析し、欠陥の多くは人工智能システムの機械学習及び任務執行段階に集中しているとの見解を示した。
差別——すべて人間の誤りか
多数の人工智能専門家は種族主義と種族差別は現在、人工智能システムに存在する主な課題であり、システム研究開発設計者自身の種族と関連性がある可能性が高いと認識している。
2016年、米国の多数の企業が「世界初の人工智能が選ぶ美人コンテスト」を共同で開催して出場者がサイトに写真を載せ、人工智能の判断基準で「正確に」出場者の美しさに対する審査が行われた。しかし、この大会の受賞者はすべて白人だった。米国ルイビル大学、インターネットセキュリティー実験室のヤンボリスキー主任は人工智能の学習トレーニングのサンプルが少なく、美人が固定観念によって制限されたことは明白だと指摘した。
マイクロソフトは今春、若年層の市場を開拓するため、ソーシャルネットワークのツイッターに学習型人工知能会話ロボット「Tay」を公開した。しかし、オンラインから1日足らずで、ネットユーザーの表現を用いて話せば「Tay」は「ヒトラーを熱愛し、女性を侮辱するモンスター」と化し、マイクロソフトは「Tay」を緊急停止させた。任天堂のゲームソフト「ポケットモンスター」は今年7月の発売後に全世界を風靡している。だが、利用者は黒人コミュニティーに隠れているポケモンが少ないことにすぐに気が付いた。
囲碁に負け、人を負傷させる——人工智能は完璧ではない
3月の棋士とコンピュータの対局で、人工知能「アルファ碁」が4対1で韓国人棋士の李世石に勝利した。オーストラリア、ニューサウスウェールズ大学の人工智能に詳しいウォルシュ教授は次のように説明した。人工知能「アルファ碁」が一局、負けたことは、李世石棋士が同システムが使用する「モンテカルロ木探索」(MCTS)の抜け穴を発見したことを表わしている。この一局は2016年の人工智能の失敗とみなされ、人工智能は完璧ではない。
5月、自動運転モジュールを作動させていたテスラ自動車の車両が米国フロリダ州で一台の自動車と衝突し、運転手が死亡した。事故発生後、テスラ自動車は自動運転ソフトの重要な更新を発表し、同社のマスクCEOは更新によって事故の再発を防止できると表明した。7月、シリコンバレーにあるスタンフォード・ショッピングセンターで、ある母親が店内の重さ約135キロの「K5セキュリティロボット」が自分の16カ月の子供に衝突し、子供の足の上を踏んでいったと苦情を訴えた。
ヤンボリスキー主任らはこれらの例は機械学習データの多様性を保つことが人工智能システムに生じる「偏見」を防止するために重要であることを示し、関係論理の研究は技術研究より先に実施されるべきだとの見方を示した。
（新華社より）
関連記事：
