Do it with bFaaaP

bFaaaPは足に障害を持つチャレンジドや子供達&高齢者が、頭部動作をAIを使って検出することでピアノペダル操作可能にするピアノ補助ペダル装置です。

Illustration
Icon
デモビデオ
2024年5月12日東工大すずかけサイエンスデー

東工大のプラタナスの会の企画でbFaaaPを実演する企画がありました。
bFaaaPは譜面台に立てかけたiPhoneで演奏者の頭部角度をAIを使って検出し、その角度情報をBLEを使いピアノペダルを操作する装置へ送り、ペダルを踏んだり、放したりすることを可能にしています。
iPhoneの画面が赤くなっている間はペダルを踏んだ状態になり、白く画面がなるとペダルが放されます。
上手く使いこなせば、ピアノ演奏がより楽しくなりますよ!
この企画ではbFaaaPのメカとメンバーの紹介後に4人の演奏者がbFaaaPを使って実演してくれました。
bFaaaPを使ってここまでの演奏が可能なことを実証しています。


実演
VideoPlay
Translation

AIとの融合分野

宍戸&アソシエーツ(ORCID ID)は、AIと医薬、機械、材料との融合分野の特許翻訳を専門としています。東工大高度博士人材フェローシップで工学院情報通信系博士後期課程在籍。専門:AI(特許第6985543号 楽譜画像から音楽情報を作成する方法, ディープラーニングMMdA法(arXiv:2106.12037))、医薬(チロシンリン酸化酵素活性制御 J. Biol. Chem., 2003,278(24):21685-92; Nature Biotechnology翻訳者(2012-現在))、機械(WO2019176164:AUXILIARY PEDAL SYSTEM, bFaaaP特許第6726319号)

資格

Ph.D(Molecular Oncology)、弁理士(登録番号12598)、英検1級、TOEIC970、ドイツ語検定準1級、Goethe-Zertifikat B1、SDL Trados中級、G検定(2021#1)、AWS認定機械学習(2021.5)

Trados Gtest AWSML
bFaaaP

bFaaaP開発販売

ピアノ補助ペダル装置bFaaaPは、頭部傾き角度をAIにより検出し、2つのパラメーターであるオフセット角度と感度(ペダルを動かす速度)をコントールして自然で演奏者の好みにあった演奏を実現しました(特許第6726319号,特許第7004771号)

製品ラインナップ

電子ピアノ&キーボード用bFaaaP Switch、楽譜自動譜めくりiPadアプリbFaaaP Pager、汎用(アコースティック&電子ピアノ用)bFaaaP6を開発販売しています

Consulting

特許コンサルティング

特許、意匠、商標を考慮し、AIプログラミングと組み合わせAWS等クラウド上でWebアプリ等で実現するコンサルティングを提供します。

MeLDy

実績

医療機器日英中用語辞典MeLDy、bFaaaP特許第6726319号、デバイスコントローラ特許第7004771号、楽譜画像からの音楽情報作成方法特許第6985543号、img2xml特願2021-54429、意匠登録第1637409号、bFaaaP商標登録第6187860号、宍戸&アソシエーツ商標登録第6345408号



Icon
デモビデオ
bFaaaP Switchのご紹介

電子ピアノ&キーボードのペダルが、演奏者の頭部角度をiOSまたはAndroidのスマホやタブレットのアプリでAI検出して制御可能です。
「伸びる音」を含む演奏が足を使わずに実現できました。
足に障害を持つチャレンジド、小さな子供達、高齢者が不可能だったペダルを使ったピアノ演奏が可能になり、
音楽をより豊かに楽しめるようになりました。
このビデオは国際福祉機器展2021の出展用のビデオで、概要、設定方法、操作方法、実演、bFaaaPメンバーからのメッセージが収録されています。


実演
VideoPlay
Icon

iOSアプリ

iPhoneまたはiPad


3,540円(税込)@Apple Store
Includes
iOS Switchアプリ
マニュアル
Terms&Use(Apple)
 
 
Features
AIによる頭部角度(垂直方向)検出
お好みの角度閾値の設定
BLEチャネル選択(4種類)
シンプルで直感的な操作
 
Icon

bFaaaP Switchデバイス

電子ピアノ接続用


Amazonで48,000円(送料税込)
Includes
デバイス本体
電子ピアノ&キーボード接続用コード
単3電池2本
取扱説明書(webへのリンク)
 
 
Features
ペダル端子のある電子ピアノ&キーボードと接続
「音を伸ばす」機能
シンプルな操作
小型でシンプルなデザイン
 
Illustration
AIアプリ:bFaaaP img2Mxml (sheetmusic2musicxml)
Icon

楽譜イメージからMusicXMLを作成し音楽を奏でる。人工知能学会2024年浜松で口頭発表されました。

img2Mxml(sheetmusic2musicxml)は、ディープラーニングモデルを利用して楽譜のイメージ(例、写真)からmusicXML音楽情報を作成するWeb AIアプリです。複数のディープラーニングモデルを組み合わせて音符記号を認識、合成してXMLファイルを作成します。そのXMLファイルから音楽を奏でることができます。

Icon

小節認識

楽譜画像の各小節を認識するディープラーニングモデルを使用します。特許第6985543号としても成立しました。次に、得られた各小節の五線の位置を補正し、それを基準にします。そして、複数のディープラーニングモデルを使用して音楽記号を認識、合成します。得られた音符データを組み立てXMLファイルを作成します。 その手法MMdA(Measure-based Multimodal Deep Learning-driven Assembly)法は、ArXiv:2106.12037v1(Listen to Your Favorite Melodies with img2Mxml, Producing MusicXML from Sheet Music Image by Measure-based Multimodal Deep Learning-driven Assembly)として論文発表しました。
GitHub Repositoryで公開しています。GoogleColab上のnotebookで実行可能です。


Webアプリはこちらへ
Icon
デモビデオ
bFaaaPのご紹介

bFaaaPの特徴は制御技術です。英文PCT出願(WO2019/176164)されました。また、日本国内でも特許(特許第6726319号)が成立しました。具体的には、2つのパラメータ(ピアノ演奏者の顔傾き角度のオフセット(水平位置からの角度)と感度(どのようなスピードでペダルを動かすか))を使いペダルを制御します。このbFaaaP技術によって、自然で演奏者の好みに合った演奏を実現しました。


実演
VideoPlay

bFaaaPメンバー

bFaaaPホームページ