HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Show HN: スマートグラスによる手話翻訳

Show HN: Sign language translation with smart glasses (github.com)

9 pointsby aadisang4 コメント

要約

開発者は、AIの進歩にもかかわらず手話翻訳が軽視されていると感じ、スマートグラスと指文字翻訳ソフトウェアを統合したプロジェクトを立ち上げました。CNN+GRUアーキテクチャを用いたニューラルネットワークを訓練し、CTCビームサーチと言語モデルでデコードしています。このプロジェクトはクロスプラットフォーム(Web、iOS)で利用可能で、完全にFOSS(フリー・オープンソースソフトウェア)です。

全文翻訳

こんにちは! 私の親戚は手話を話しますが、近年AIが目覚ましい進歩を遂げているにもかかわらず、この問題がいくぶん軽視されているように感じていました。 特にウェアラブル技術の登場により、私の知る限り、Metaグラスと指文字翻訳ソフトウェアを統合した最初のプロジェクトです。 技術的な側面としては、GoogleのFSboardデータセットでニューラルネットワークを訓練し、CNN + GRUテンポラルエンコーダーアーキテクチャ(CTCで訓練済み)をモデル化しました。その後、CTCビームサーチとKenLM言語モデルで出力をデコードし、モデルのいくつかの欠点を解決しました。 クロスプラットフォーム(Web + iOS)にも対応しており、Web画面共有やスマートグラス以外のデバイスの使用も可能です。このプロジェクトは完全にFOSS(フリー・オープンソースソフトウェア)です。 現在、オンデバイスモデルをクリーンに動作させることに取り組んでいますが、残念ながら低スペックのデバイスではパフォーマンスが低下するため、今のところモデルはModalでホストしています。 改善の余地はたくさんありますが、この出発点には満足しています。ぜひご意見をお聞かせください。YouTubeのデモもチェックしてみてください!