「編集可能なAI」の開発で、AIと人間の共生社会を実現。

PROFILE

研究

鵜飼祐生

2018年入社
理学研究科物理学・宇宙物理学専攻

ソフトとメカトロニクスを組み合わせた研究に携わりたいと、グローリー研究開発センター新技術創発部AI・スマートセンシンググループに入社。 2021年から社会人博士課程に修学、2024年に博士号取得。AIのさらなる可能性を求めAIに関わる共同研究に取り組んでいる。

Q1. グローリーへの入社理由は？

当時最先端だったAI研究にいち早く取り組んでいることが決め手に。

からくり人形に興味を持っていたこともあり、ソフトで機械を動かすような製品開発や研究に携わりたいと考えていました。グローリーは地元の有名企業の一つであり、世界中の金融機関で採用される高度な画像処理技術と、通貨処理機を自社で設計・製造できるメカトロニクス技術を併せ持つ企業であることに魅力を感じていました。就職活動では他社からも研究職で内定をいただいており、そこの独自の計量技術も魅力的だったのですが、グローリーがAIに関わる研究にいち早く取り組んでいたことが決め手となりました。実際に入社してまず取り組んだのが、通行人の数の推定や姿勢判別につながるAI画像認識技術の研究です。これは当社が2023年1月にリリースした、高齢者の転倒検知システムの開発につながっています。

Q2. 現在任されている仕事は？

AIは本当に正しいのか？　AIの判断根拠の可視化に取り組む。

現在は研究開発センターで「AIの説明可能性」に関する研究を行っています。現在のAIの課題は、AIがどのように判断を行ったのかを人間が理解できないところにあります。AIが望ましくない偏見を学習してしまったために、社会的な公正さを欠いた判断を下す場合があることが既に指摘されていますが、医療現場や自動運転といった人間の健康や生活に大きな影響を及ぼす分野では、AIの活用がまだまだ難しいと考えられています。
私はこのような現在のAIが抱える課題を解決し、安心・安全にAIを活用することができる社会の実現に向けて、中部大学・藤吉研究室との共同研究に取り組んでいます。人の知見を深層学習（ディープラーニング）に組み込むことで、AIの判断根拠を可視化し、AIがなぜそのように判断したのかを説明できるようにすることが目標です。実験は失敗することが大半ですが、実験結果をもとに自分の立てた仮説を検証し、知見を積み重ねることで、より良い研究成果につながると信じています。

Q3. 印象に残っているエピソード

AI分野トップレベルの国際会議に参加し、論文発表を行ったこと。

社会人博士課程で取り組んできた共同研究の成果が認められ、AIの深層学習分野でトップレベルの国際会議「ICLR 2023」に論文が採択され、ルワンダ共和国で開催された会議に出席。多くの研究者の前で論文発表したことが印象に残っています。
採択された論文は、従来の深層学習モデル手法を援用し、新しいアプローチでの学習モデルを提案したものです。中部大学とともに2年間試行錯誤を繰り返してきた研究でしたので、採択を知らされたときは達成感で胸がいっぱいになりました。さらにICLRで「面白いアイデアだった」と著名な研究者から声をかけられたことも嬉しかったです。一方で海外の研究者たちの研究に対する情熱や知識量には見習うところが多くありました。次の機会にはもっと彼らと研究に関する議論を深めてみたいですね。

Q4. 今後の目標は？

人間がAIを編集して間違いを正すことができる技術の開発。

研究者としての現在の目標は、「説明可能なAI」を超えた「編集可能なAI」を実現することです。なぜならば、もしAIが判断根拠を説明できるようになったとしても、現在のAIでは性能改善のため学習をやり直す必要があります。しかし再学習には時間がかかりますし、AIの特性がガラッと変わってしまう恐れがあります。
そこで私が実現したいのは、人間がAIの判断根拠を理解したうえで、間違いのみを正すことができる「編集可能なAI」です。実現すれば再学習が不要となるため、AIの性能改善が容易となるでしょう。当社のAI搭載製品やソリューションにおいても、短期間・低コストでのバージョンアップが可能になると考えています。

SPECIAL QUESTION

グローリーの技術力でつくる未来

「編集可能なAI」とChatGPTなどの対話AIとのシナジーにより、AIと人が対話しながらAIの間違いを正したり、人がAIの説明をもとに学んだりすることが、将来的にできるようになると考えています。このような技術が実現すれば、もしかしたら数十年後には、人とアンドロイドが助け合いながら生活を営む社会が実現できるかもしれませんね。