微軟 HoloLens 比賽(下)

Fuyen Hsiao
Feb 13, 2018

--

最後一篇終於要談 Music Everywhere 的本體:互動鋼琴課程。有人會問:「Music Everywhere 有比真的鋼琴老師好嗎?」、「使用後我的鋼琴程度會進步嗎?」網路上也有人批評:「用這東西根本學不會鋼琴,只會讓人程度越來越差。」、「鋼琴老師能夠教的知識是無法被取代的」、「要真正學好鋼琴,需花很多時間反覆練習。而這是不對的方法。」

國外Youtuber測試Music Everywhere。有興趣的人可參考底下的批評留言。

Music Everywhere 幫助在鋼琴學習途徑遇到挫折而停止學習的人,開闢一條新的道路。

Music Everywhere 的執行長 Seth 擁有茱莉雅音樂學院及多年鋼琴教學的經驗。鋼琴學習流程及細節由他全權負責設計。面對眾人的質疑,他說:「Music Everywhere 是幫助在傳統鋼琴學習途徑遇到挫折而停止學習的人,在好玩有趣的環境中繼續學習。我們從來沒想過要取代真正的鋼琴老師,畢竟如果你的目標是成為鋼琴家,找個好老師是不二法門。」

因此,Music Everywhere 的宗旨是引導、啟發使用者如何使用鋼琴表達,也就是「即興演奏」。在課程中,我們使用虛擬樂手傳授即興知識,且藉由類似吉他英雄的「跟隨模式」讓使用者依照指示彈奏練習;或是「即興模式」,系統提供數個可彈奏的音符,使用者可以自行配合節奏嘗試不同的即興內容。彈錯沒關係,重點是融入音樂、表達自我的價值。

左:跟隨模式。右:即興模式

AR的魅力:直接把指示投射在鋼琴上。

Music Everywhere 與吉他英雄或 Youtube 最大的差別是:我們使用真正的鋼琴,且運用 AR 技術將彈奏指示直接投影、對應在琴鍵上,不像使用電腦或手機學習,使用者需要將螢幕上的資訊轉移到樂器。沒有多餘的螢幕,不用借助模擬的樂器(例如吉他英雄),Music Everywhere 直覺式的互動學習體驗,我們稱為:在樂器上學習 (On Instrument Learning)。團隊正在努力將此理念擴張至其他樂器。

Music Everywhere於銅獎新創加速器Alpha Lab Demo Day展示

課程編輯器:設計互動課程的命脈。

設計一個互動課程需要整合 3D 動畫、音訊、UI 指示與回饋,是個複雜且耗時的任務。技術長 Byunghwan 所創造的課程編輯器以線性時間軸的概念,使用 Drag and Drop 節點式 GUI,讓音樂家Seth能輕易運用導入的音訊及動畫,以模塊的方式串連、觸發不同的互動事件。例如選擇不同的虛擬樂手、同步動畫及音訊、規劃 UI 指示等等。課程編輯器功能強大,節省了許多開發時間,更建立了日後擴充課程的基石。

使用者選擇互動課程,最右邊為未來擴充內容。

虛擬樂手:模糊虛擬與真實的界線。

虛擬樂手大集合

虛擬樂手廣受大家喜愛。音樂與動畫同步技術賦予他們真實的靈魂,在台上與使用者一同賣力演出。同時也是音樂導師,傳授即興演奏的知識。而要創造出這些生動的小人們,除了我負責的 3D 美術之外,還須結合 Byunghwan 的程式技術以及 Seth 設計的口白對話,反覆測試,最後才能讓使用者伸出手指觸摸,突破虛擬與真實的界線。以下為我的挑戰:

  • 要建立與聲音同步的動畫,例如吉他手照著節奏刷和弦。必須將整體動畫切割,並在 Unity 建構出繁雜的動畫系統,最後寫入腳本反覆測試修正。
  • 優化舊有 Prototype 中的 12 個角色,從重新佈線、改善造型到 Rigging、製作動畫是我花最多時間的工作。而真正的 3D 遊戲人物動畫也許一隻就要花上一個月的時間製作,但我沒那麼多時間,於是「這樣就夠了」時時刻刻警惕自己莫自溺於 3D 世界。
  • 因身兼多職,腦袋需在製作 3D 的完全專注中強迫轉換成解決設計問題靈活思考。幸好 Byunghwan 本身就是個古靈精怪的遊戲工程師,時常幫助我思考、解決很多問題,讓我有足夠的精力面對新的設計挑戰。
左:樂手與使用者對話。右:樂手與琴鍵的互動機制。
在夜深人靜時,Seth 於會議室錄製虛擬樂手口白。

Music Everywhere 像在未來玩音樂。

最後,我想說,Music Everywhere 正在幫未來做準備,也許現在還看不到市場價值,不過我們深信等到 AR 硬體成熟了,Music Everywhere 會是第一個將全新的音樂學習體驗分享給喜愛音樂的朋友手上。到時再一起玩音樂吧!

Music Everywhere 於 HoloLens 商店頁面

--

--

No responses yet