手話をリアルタイムで翻訳する手袋

sign languagetechnology-other
Photo by Sincerely Media on Unsplash

UCLAの生体工学者のチームが、スマートフォンのアプリを使ってリアルタイムでアメリカ手話を英語の音声に翻訳できる手袋のような装置を設計し、その研究が、雑誌「Nature Electronics」に掲載されたので紹介したいと思います。

このシステムには、5本の指のそれぞれの長さに沿って伸びる薄いセンサーが付いた一双の手袋とスマートフォンアプリで構成されています。これらのセンサーは、導電性の糸で作られており、手や指の動で、アメリカ手話のフレーズや単語を表す指の位置を拾うことで、翻訳を可能にします。指の動きを電気信号に変換し、手首ある装置からスマートフォンに無線で情報を送信し、アプリは、1秒間に約1単語の割合でそれらを話し言葉に翻訳することができます。

アプリは機械学習アルゴリズムを使用してアメリカ手話を認識するようにトレーニングされており、現在は660の手話語彙から毎秒約1語を翻訳することが可能だが、研究者達はこれをさらに高速化し、語数を増やすことを目指しています。

さらに研究者たちは、アメリカ手話の一部である顔の表情をキャプチャするために、手話をする人の顔(眉間と口の片側)に粘着センサーを追加することでさらに手話翻訳の可能性を広げています。

UCLAはこの技術に関する特許を申請している様です。

現在対応しているのは、アメリカ手話のみで国際手話や日本手話には対応していませんが、今後これらの技術が一般化することで手話を使う人とのコミュニケーションが今以上に取りやすくなるかもしれません。

下の動画は実際の動作デモ動画です。

UCLA Sign Language Glove
UCLA Sign Language Glove

参考

Sign-to-speech translation using machine-learning-assisted stretchable sensor arrays

Sign-to-speech translation using machine-learning-assisted stretchable sensor arrays
Wearable yarn-based stretchable sensor arrays, combined with machine learning, can be used to translate American Sign Language into speech in real time.

Wearable-tech glove translates sign language into speech in real time

Wearable-tech glove translates sign language into speech in real time
The innovative device turns finger movements into electrical signals and ultimately into spoken words through a smartphone app.

DVDつき ゼロからわかる手話入門―手の動きがすぐにマネできる「ミラー撮影」採用  主婦の友社

DVDつき ゼロからわかる手話入門―手の動きがすぐにマネできる「ミラー撮影」採用 | 谷 千春 |本 | 通販 | Amazon
Amazonで谷 千春のDVDつき ゼロからわかる手話入門―手の動きがすぐにマネできる「ミラー撮影」採用。アマゾンならポイント還元本が多数。谷 千春作品ほか、お急ぎ便対象商品は当日お届けも可能。またDVDつき ゼロからわかる手話入門―手の動きがすぐにマネできる「ミラー撮影」採用もアマゾン配送商品なら通常配送無料。

パーフェクト・センス(字幕版)

Amazon.co.jp: パーフェクト・センス(字幕版)を観る | Prime Video
ある時、原因不明の感染症が拡散し、あらゆる人々が嗅覚を失う。その後に味覚、聴覚と、人類は徐々に五感を奪われていくそんな極限状況のさなかにめぐり合ったシェフのマイケルと科学者スーザン。ふたりはいったい何を求め、何を感じ取るのだろうか。

コメント