9月10日(月)

朝3時過ぎに目が覚める。そのまま起きて、メールの読み書き。日本は夕方なので、月曜に来たメールをまとめて処理する感じ。返事を20通ほど書く。

6時半に朝食。このホテルでは朝食がついている。胃の調子がいまいちなので、軽めにシリアルと果物。

昨日買ってきた食べ物がたくさんあるので、サンドイッチを作って持ってみた。アメリカらしく具はピーナツバターとか。昨日買ったバナナも持ってみた。

その後支度などをして、8時過ぎにホテルを出る。外は曇りで寒い。


10分ぐらい歩いて、Hilton Executive Tower に来てみたが、昨日と同じく何もやっていない。他にもInterspeech参加者が迷っていて、その人たちについて行くと、会場はもう一つのHiltonホテルの方で やっているようだった。Executive Towerの方にもInterspeechの看板があったのがかえって紛らわしい。「別なHiltonでやっています」と書いておいてくれれば分かりやすかったのに。


ということでレジストレーション。今回のカバンはふつうのビジネスバッグ。


9時からオープニング。最初に実行委員長挨拶。採択率678/1286。今年はがんばってたくさん落としましたとのこと（私の論文も落ちた）。それでも採択率は 50%を越える。登録者1000人強。スポンサーの紹介。このあたりの簡単な紹介の後、Philip Loizou追悼。
プログラム全体とソーシャルプログラムの紹介。TPCチェアから査読の様子の説明。


次に特別企画。Rex ZiakによるInto the wilderness: The first contactというタイトル。この人は写真家・自然保護活動家のようだけど、話がとても面白くてわかりやすい。19世紀、トマス・ジェファーソンの命によるメリーウェ ザー・ルイスの西武探検の話。動植物や鉱物だけでなく、地元のインディアンの言語での語彙を集めた。


下の写真は4人の通訳を通してルイスとワラワラ族酋長が会話している様子の再現（笑）。Alan Blackがいい味を出している。


このあとISCA会長による挨拶、イベント紹介、ISCAフェローの表彰式。

ISCA Medalの受賞はChin-Hui Lee。

この後コーヒーブレイク。Plenaryの会場の一階下がポスター会場兼コーヒーブレイク会場だが、余りに人が多くて萎えたので、早々にコーヒーはあきらめ、 Plenary会場に座って日記を書いたりする。


11時からプレナリー。

An Information-Extraction Approach to Speech Analysis and Processing (Chin-Hui Lee, Georgia Tech)

最初の枕はVictor Zueのところでスペクトログラムリーディングをした話。
・ＡＳＲの歴史
音声科学寄り・手書きルール→数学的定式化・学習ベース→音声科学への回帰、信号処理、情報抽出？
現在：ディクテーション、音声対話、車内音声認識など
現在の音声認識
    統計モデル、様々なパッケージ（そのためにKenkyuuga制限されるかも）、
    モデルにタスクがよくあっている場合のみよい結果
・現在のtop down音声認識
    HMMの基礎
    問題点
        Topdownですべての知識があらかじめわかっている場合はまれ
        想定外環境に対する頑健性が低い
・人間による音声認識
    性能は高い
・スペクトログラムリーディングに学ぶBottom-up情報統合
・ボトムアップ情報との統合
・その次にあるもの
・Automatic Speech Attribute Transcription (ASAT)
    音素の調音特徴抽出みたいなもの
・ASATの応用
    音声認識への統合
    多言語音声認識
    WFSTへの統合
・次世代の協調的ＡＳＲについて

ちょうどこの講演の時に新田先生の隣になったのだが、新田先生はずっと昔から調音特徴を使った認識合成の研究をしておられるので、「こういうのは昔からあって、何 度も繰り返し現れる」という話をした。

ここで昼食。今日は昼食にサンドイッチとバナナを持ってきたのだが、ホテル内は混みすぎていて食べる場所がないので、近くの公園のベンチで食事。飲み物もあればよ かった。


次のセッションまで1時間ほど時間があるので、近くのスターバックスでコーヒーを飲みながら、研究室の学生たちの音響学会での発表スライドのチェック。

スターバックスでトイレを借りようと思ったら、ドアに番号式キーがついていた。本当の客が店員から番号を聞かないとドアが開かないようになっているのだ。

13時半から午後のセッション。OralのDeep Neural Networkのセッションを聞く。眠くて具合が悪い。

Deep Neural Network

Large Vocabulary Speech Recognition Using Deep Belief Tensor Neural Networks (MSR Asia)
通常のNNをひねったTensor Networkを使った音声認識。ネットワークのテンソル層では、ある層からの出力に重みをかけてシグモイド関数を作用させたものを2セット作り、その2セットの各出力の 積を重み付きで足したものが次の層への入力になる。総和→積→総和のどこにどういう非線形（または線形）関数を作用させるかでいくつかの変種がある。プレゼンでは 細かい話はなかったけど、学習がめんどくさそうだ。ふつうのDBNではGMMベースのHMMより6.5ポイント改善するが、DTNNではさらに1.3ポイントぐら い改善する。

Scalable Minimum Bayes Risk Training of Deep Belief Network Acoustic Models Using Distributed Hessian-free Optimization (IBM)
DBNによるベイズリスク最小化学習。パラメータ空間の最適点への勾配の具合が良くないことと、計算量が膨大であることが問題。勾配の問題を解決するため、2次の 勾配法を導入する。2次の勾配法にはヘシアン行列が現れるが、ヘシアン行列は正定値ではないので、近似によって正定値が保証された行列を使う。通常の方法と同程度 の性能で、学習が5倍以上高速。

Discriminative Feature-space Transforms Using Deep Neural Networks (IBM)
MPE/MMI基準による特徴空間変換にDBNを使う。それぞれの場合でのネットワーク更新式を導出している。FMMIで学習した物を初期値とする。FMMIより も1.5ポイントぐらい改善。

Context-Dependent MLPs for LVCSR: TANDEM, Hybrid or Both? (RWTH Aachen)
NNを使った音声認識で、識別的な方法で特徴量を計算してからふつうのHMMを使う方法(TANDEM)と、HMMの出力確率計算にNNを使う方法 (Hybrid)を比較した研究。結論としては、HybridとTANDEMは大体同じ性能。

Recurrent Neural Networks for Noise Reduction in Robust ASR (Stanford/UCB/Google)
NNを使った雑音除去。これ自体は昔からあるものだが、中間層で1ステップ前の出力を入力にフィードバックさせ、さらにそれをDeep Network化するところが新しい。Recurrentを入れることで性能が大きく上がる。通常の(Recurrentでない)NNをDeep化しても性能が上がるが、 両方使ってもあまり変わらない。音声認識実験結果から、未知ノイズには弱いことがわかった（当然といえば当然）。

Pipelined Back-Propagation for Context-Dependent Deep Neural Networks (MSR Asia)
Deep NNのバックプロパゲーション学習を高速化するための学習法。複数のデータをまとめて係数更新する（ミニバッチ）方法と、学習を並列化する方法の組み合わせの検討。並列化 では、従来はデータごとに並列同時学習をしてから係数をあわせていたが、提案法ではレイヤごとに個別のGPUで計算する（パイプライン学習）ことで高速化する。パ イプライン化によって学習速度は約2倍になる。レイヤにローカルな学習をして速度が約3倍。

気力がないのでコーヒーブレイクの間も会場に座ってPCで仕事とか。午後後半はやっぱりオーラルを聞く。

Speech Language Understanding and Dialog II

"Help me, I Need More User Tests!" User Simulations as Supportive Test in the Development Process of Spoken Dialogue Systems (TU Berlin)
対話システムの自動テストのためのユーザシミュレーション。システムは単純なスロットフィリング型のレストラン検索システム。内容の確認方法の違いで3種類のシス テムに分かれる。対話制御はPHPで動的にVXMLを生成することで行う。実際のユーザによる対話とシミュレータによる対話の結果比較をしているところがおもしろ い。OOV単語などをどうするか聞いてみたが、基本的には学習データをつかっているようだ。）

Caller Response Timing Patterns in Spoken Dialog Systems (Fluential Inc.)
対話システムユーザーの返答タイミング。対象は実際に使われている商用対話システムのログ。システムの質問を複雑度に応じて3つに分類して分析（複雑「ご用件をど うぞ」〜簡単「YesかNoで答えてください」）。返答までの時間を有理多項式分布で近似。簡単な質問ほど速く返答するが、同じ質問でもコンテキストによって結構 返答時間が変わる。また、これを利用して、質問ごとにタイムアウト時間を最適化した。

A Discriminative Classification-Based Approach to Information State Update for a Multi-Domain Dialog System (Microsoft)
Information state（現在までのユーザ要求を反映したスロット−値集合みたいなもの？）を更新するのに識別的な方法を使う。途中意識を失って聞いてなかったが、発話に対して state-update actionというのが定義されていて（セッション開始とか、新しいスロット値とか、スロット値の置き換えとか）、現在観測されている発話がそのどれなのかを推定するよう だ。マルチドメイン対話なので、どのドメインの対話なのかも利用する。認識文の単語N-gram、状態間遷移やスロット値の情報などを特徴として使う。エラー率 20％強。

Learning When to Listen: Detecting System-Addressed Speech ini Human-Human-Computer Dialog (Microsoft)
ユーザが二人以上いる場合に、どちらかのユーザの発話がコンピュータ向けかどうかを当てる。マルチモーダル情報や音響信号処理的特徴は使わず、言語情報だけ利用す る。言語的特徴はN-gram、現在表示している内容と発話のコサイン類似度、認識結果の信頼度。さらに、発話のパワーパターンを使う（モデル化はGMM）。これ らの特徴をロジスティック回帰につっこんで閾値で判定。EERは12%ぐらい。

Exploiting the Semantic Web for Unsupervised Natural Language Semantic Parsing (Microsoft)
2つ前の発表と関係している気がする。スロットフィリングのために認識単語列のどの単語がどのスロットにはいるのかを識別する。すでに定義されているセマンティッ クWebのオントロジーをそのまま使って目的ドメインのセマンティックテンプレート（スロット集合？）を自動定義する。また、Webの（セマンティック付き）リン クをたどってクエリを収集し、収集したクエリからモデルを学習する。人手でアノテーションしたデータで学習したときの市ロット正解率が64%ぐらいのに対して、全 自動で50％後半、適応すると60％台に向上する。

Prosodic Entrainment in an Information-Driven Dialog System (CMU)
対話システムの性能を上げるために韻律のentrainmentを行う。CMUのLet's Go システムでは、ユーザのshout（叫ぶ）, hyperarticulation（ゆっくり発話）がたくさん観測されていて、認識精度の低下の原因になっている。そこで、ユーザの発話スタイルをSVMで識別し、 shoutやhyperarticulationと識別されたときには、対話戦略を変えることでユーザのentrainmentを起こし、通常発話に誘導すること で音声認識性能を上げる。戦略として、相手に発話スタイルの変更を促す(explicit)、システムの発話スタイルを使う(implicit)、質問内容を変え る(backoff)の3つを比較。Explicitがもっとも発話スタイル制御に効果があり、次にimplicit。実際のタスク成功率では、explicit を使うとshoutを含む対話の成功率が上がるが、hyperarticulationには効果がない。

セッション終了後にWelcome Receptionがあるのだが、会場が明らかに狭くてサバイバルディナーになることが目に見えているので、さっさと帰る。途中食料品店でタマネギとプリングルスとスライ スチーズを買って帰る。

ホテルに戻って夕食を作る。今日はタマネギとプリングルスのトマトソースパスタ。プリングルスはもっと芋っぽくなることを期待したのだが、煮ているうちに崩壊して しまった。火を止める直前に入れるべきだった。


食べ終わったらメールの読み書きをして、少し日記を付ける。夜9時頃寝る。今夜はぐっすり寝られるといいな。
前の日へ　目 次へ　次の日へ