Picognizerは、JavaScriptのみで記述されブラウザで動作する、電子音検出・認識のためのオープンソースライブラリです。ゲーム音、録音し再生された人間の声や音楽、電子機器の通知音などの検出を行えます。Picognizerを使えば、ソースコードの入手できないテレビゲームを改造したり、IoT化されていない家電の通知音を起点としたMashupなどが容易に行えます。
できることの例:
・スーパーマリオブラザーズでコインを取ったら、実世界でもコインを貰える
・モンスターストライクでボスが登場したら、部屋のIoT照明で緊張感を高める
・ニンテンドーSwitchの早打ちガンマンゲームを自動操作
・マクドナルドのポテトの揚げたて音を検出してスマホに通知
機械学習は用いておりません。Webブラウザ単体で高速に動作します。音声の検出後はIFTTTにつないだり、自作IoTデバイスに通知したり、指定した任意のJavaScriptコードを実行することができます。
PC/Mac/AndroidのFirefoxが推奨環境です。
音声認識に必要なパラメータは、すべてURLだけで指定できます。
詳しくはプロジェクトサイト:
http://www.unryu.org/home/picognizer
を御覧ください。
(すみません、数年前に作ったのですが、すっかり放置して応募を忘れてました。)
Wow
ゲームの中の世界が外の世界と連動するってWoW!