ホイッスルシンセ
要約
Jeff Kaufman氏は、口笛でシンセサイザーを制御するMacアプリ「Whistle Synth」をリリースしました。このアプリは無料でオープンソースであり、AI(Claude)を活用してレイテンシの低減、音飛びの解消、新しい音色の生成を実現しています。AIはアイコン作成やMac App Storeへの申請プロセスでも開発者を支援し、開発効率を大幅に向上させました。
全文翻訳
口笛でシンセサイザーを制御する私のプログラムが、Mac App Storeで利用可能になりました。
[画像: Mac App StoreのWhistle Synth]
無料、広告なし、そしてオープンソースです。Macをお持ちで口笛が好きなら、ぜひ試してみてください。外部マイク、ヘッドフォン(遅延を最小限にするため有線推奨)、またはその両方が必要です。私は前者をお勧めします。
このジェネレーションAIの時代において、Claudeに実装の大部分をやり直してもらった結果、遅延が減り、スタッターがなくなり、選択できるボイスが増えました。さらに、前述の通り、Macアプリになりました。
遅延の低減が最も簡単かつ迅速でした。マイクをヘッドフォンに向け、「遅延を減らして」とClaudeに依頼しました。これにより、Claudeはラウンドトリップ遅延を測定するために必要なすべての情報と、いくつかの異なる試行を経て、コールバックAPIとその他のいくつかの調整が必要であると判断しました。これにより、オーディオのラウンドトリップ時間(ピッチ検出と合成を除く)が80msから5msに短縮されました。
スタッターの修正は、ロジックを、シンセに指示を出す検出器とシンセに分割する作業でした。皮肉なことに、このリファクタリングは、5年前に奇妙なアイデアのために捨てた、元々の設計に戻るものです。その奇妙なアイデアは確かに音が良かったのですが、非常に限定的であることが判明しました。
新しいシステムでは、ボイスの作成がはるかに容易になりました。少なくとも、私がそう推測しているのは、Claudeがすべての作成を行ったからです。Claudeに様々な種類のベースをブレインストーミングさせ、プロトタイプをコーディングさせ、そして私が満足するまで一緒に反復作業を行いました。これには、オクターブレスベースも含まれており、音が高くなるにつれてハーモニックミックスがゆっくりと変化し、知覚されるオクターブを一定に保ちます。
ついに満足できるトレブルボイスも手に入れました。これは最初から取り組んできたことで、試したものはすべて気に入らなかったのです。これもClaudeにとってはより難しい作業でした。Claudeがプロトタイプ化したベースボイスの70%は気に入りましたが、それでも演奏する価値のあるトレブルボイスは1つだけです。それはドローバー(ハモンド)オルガンの音です。私たちの耳は、高いピッチに対してはるかに識別力があります。また、ベースラインがよりシンプルである(間違いにくい)こと、そしてチューニングがより早く認識される(誰かに気づかれる前に音に完全に到達する時間が短い)という要因もあります。
[YouTube動画: Whistle Synthのデモ] (https://www.youtube.com/v/_1-In1pITu0)
さらに多くのトレブルボイスを追加したいのですが、主な障害は、どのような種類のボイスが(a)まともに聞こえ、(b)Claudeで実装可能かを見つけることでした。本物のフルートの音の例を与えたりして、Claudeに良いフルートの音を作成させようと長時間試しましたが、物理モデリングに長時間費やした後でも、私が満足できるものは得られませんでした。また、様々なシンセリードやティン・ピアノ(ローズ)も試しましたが、成功しませんでした。
ドローバーの音がまともに聞こえる理由を考えると、持続音に通常欠けている多くの生命感を、回転スピーカー(レスリー)が加えているという点が大きいと思います。似たようなものを考える上で、Claudeにアコーディオンの音も作らせましたが、これは悪くはないものの、まだ満足できるレベルではありません。
また、口笛を吹いている音より5度下の音を鳴らす設定(D -> G)を追加しました。これにより、口笛の音が倍音の3倍音を埋めることになります。これはUgo Contiから得たアイデアで、(十分な音量があれば)脳が音を制御することにどれだけ早く慣れるかは驚くべきことです。これにより、本来なら自分の音域に合わないキーでも曲を口笛で吹くことができます。
私はこれまでMac App Storeで何かを配布したことはありませんでした。Appleの審査プロセスが非常にうるさいことで有名だったからです。Claudeがそのプロセスをガイドしてくれるか試してみることにしました。しかし、それ以前に、アイコンが必要でした。Geminiにアイコン作成を依頼し、何度か追加のプロンプトを経て、以下のアイコンを得ました。
[画像: GeminiによるWhistle Synthのアイコン(複雑すぎるバージョン)]
これはアイデアの表現としては悪くないですが、非常にごちゃごちゃしています。もっとシンプルなものを試すように指示しました。
[画像: GeminiによるWhistle Synthのアイコン(シンプル化バージョン)]
その後、Claudeにコードでこれを再現させ、様々なサイズで詳細度が減少していくアイコンを作成させました。これはClaudeにとって非常に困難で、私がかなりの手助けをする必要がありました。完全に正しいものにはなりませんでしたが、十分だと思います。
128x128では、表示から波形が失われます。
[画像: 最終的なWhistle Synthのアイコン(128x128)]
そして32x32では、コントロールが失われ、派手な緑色の口笛の印象だけになります。
[画像: 最終的なWhistle Synthのアイコン(32x32)]
App Storeに登録するには、開発者メンバーシップ(私は以前よりケチではなくなったようです)に加入し、本人確認を行う必要がありました。気づきませんでしたが、Appleは私のIDの姓を「Kaufhan」と読み取っていました。Appleサポートに連絡する必要がありましたが、彼らはそれを修正してくれました。Claudeは、スクリーンショットの撮影やデモビデオの作成を含む、残りのプロセスをガイドしてくれました。
[YouTube動画: App Storeへの登録プロセス] (https://www.youtube.com/v/MXMyoyQ4hg4)
これはAIが補完的な役割を果たす良い例です。すべて自分で書く必要があったら、決してここまでできなかったでしょう。私たちは協力して、手書きのシンセよりもはるかに音が良く、より汎用的で、App Storeからインストールできるものを作成することができました。AIが十分に役立つが、私に追加するものが何も残っていないというこの窓を最大限に活用するつもりです。