2024/12/14
6時起床。眠りが浅かったのでまだ眠い。
朝の支度を済ませてチェックアウト。6時半から朝食なので少し待つ。ここの東横インの朝食はすべてパンだったので、パンを持ってそのまま出発。あとで新幹線で食べる。
昨日は駅からホテルまで行くのにちょっともたついたが、今朝はすんなり駅へ。これならホテルで朝食を食べてから駅に来ても余裕だったな。
7:04ののぞみで岡山へ。
さっき持ってきたパンを食べたあと、朝早くて眠いので寝ていく。
8:41に岡山着。
今回の会場は岡山大学で、駅からはバスかタクシーを使う必要がある。会議は9時スタートなので、タクシーを使っていくことにする。
それほど遠くないので、10分弱で岡山大へ。
9時ちょうどに建物に着き、レジストレーション。受付に行くなり名前を知られていたので何事かと思ったが、ここのスタッフは以前行った深圳の会議と同じなのだった。
部屋に入るとローカルアレンジの竹内先生が今日の流れの説明をしていた。生協で昼食を取る方法とか、夕食が居酒屋なのでそこまで路線バスで行くとか、難しい。たぶん誰にも通じていないのではないか。
General Chairの挨拶の後、キーノート。
Keynote speech I
On Alternative Approach to Machine Learning
Prof. Thomas Boehme, Technical University of Ilmenau Germany, Germany
講演者は数学の人。数学者っぽく考えながらゆっくり話すので、聞き取りやすいが話が終わる気がしない。
・ニューラルネット、単語埋め込み、アテンションに関する簡単な説明
・RQ
単語埋め込みの空間は共起パターンとして解釈できるか？
単語埋め込みを計算する他の（高速な）手法が存在するか？
・Graph learnerについて。単語系列のハッシュ値を使った学習とのことだがよくわからない。たぶんここでいうハッシュ値は通常のハッシュ値とは違う物を指している気がする。単語埋め込みを高次元ベクトル空間で表現するのではなくて、単語系列をノードとするグラフで表現するみたいなアイデアのような気がする。
・単語埋め込み空間から意味を抽出する話。例として、空間のとある1次元部分空間が対象物の大きさを表すなど。同じような埋め込みが、NNではなく頻度のカウントから得られるか？たとえば名詞と「大きい」「小さい」などとの共起頻度から対象の大きさを推定できるか。最終的には「大きい・小さい」「若い・年寄り」みたいなペアを多数使って共起頻度を計測することによって素性ベクトルみたいな物が作れるね、という話のような気がする。
コーヒーブレイクは、さっきのレジストレーションをした小部屋なのだが、コーヒーの手配が間に合っておらず、コーヒー無しブレイク。お菓子だけもらって会場に戻る。
Session I: Text Generation and Language Model
Chair: Tsunenori Mine, Kyushu U
Using Large Language Models for Old English Text Generation (U of La Rioja, Spain)
少数言語のNLP応用の一つとして古英語の言語生成にチャレンジ。古英語はデータが少ないといっても数百万単語ぐらいはある。LLMとしてChatGPT, Gemini, Copilotなどを使い、one-shot/few-shotのプロンプトだけでタスクを遂行。データ拡張も行う。テキストはトールキンのSellic Spell（ベオウルフの話）。
実際にやってみると、結構存在しない単語を生成してしまう（そりゃそうだろう）。文法や単語屈折も結構間違える。
Innovative Portfolio Optimization Using Deep Q-Network Reinforcement Learning (King Mongkut's U of Tech North Bangkok, Thailand)
アルゴリズムベース取引に強化学習を使う話。持ち株構成のポートフォリオを最適化する。利用するデータは実際のアメリカ市場の株価のデータ。インテルが赤字になっていた。過去データだけを使って実験する場合は売っても買ってもその後の株価に影響しないので、強化学習を使う意味があるのだろうか？
Generating Header Text Using Table Structure Information (Korea National U of Transportation, South Korea)
表データから情報を得る方法を研究している。今回のタスクは、表のデータ部分から、各列の見出しを推定するもの。モデルは、列ごとに見出しを推定するモデルと、表全体の埋め込みを行うモデルを組み合わせたもの。実験データは韓国語版Wikipediaに含まれる表。数字しか含まれていない列の見出しを推定するのは難しいだろうなと思ったら、それは除外しているそうだ。koBARTを使ったモデルで精度0.87程度。
Survey of Graph-based text summarization for HRM tasks (Tokyo International U, Japan)
HRMはHuman Resource Management。ScopusとGoogle Scholarで"Graph-based"などを含む論文22本を調査。グラフを使った要約では、文をノードとしてグラフを作り、重みを推定して、その結果から文の重要度を推定して、重要な文を抽出するというやり方。グラフによる要約はLLMを使う方法よりは性能が低いが、高速に動作する。
応用として、特許データの要約の実験を行った。Ollama3による要約と比較。
HRMについては、最後に「HRMについても要約が使えるね」とコメントしたのみ。
Evidence Extraction for Automated Medical Coding: Preliminary Evaluation (U of Sheffield)
Medical Codingとは、カルテから診断や処置のカテゴリを決めるタスク。ICDとかPCS, CPTなどの分類があるらしい。ここではICD-10という分類を使う。従来行われているが、精度60%ぐらいで難しいタスク。頻度が少ないカテゴリが多いことが問題を難しくしている。
提案モデルでは、まずエビデンスとなる文を推定するため、文をBERT+BiLSTM+attentionで処理した後、複数の文をまとめてBiLSTM+CRFにかけて、文ごとにラベルを推定する。
エビデンスになる文をChatGPTに入力してICD-10のコードを推定する。
Persona Adaptable Strategies Make Large Language Models Tractable (Robert Koch-Institute, Germany)
XAIの文脈で、結果を説明するための想定ユーザをここではPersonaと読んでいる。LLMにペルソナに応じた説明をさせるためにどうしたらいいかという話のようだ。話に具体性がなくて、何が言いたいのかよくわからない。The Ten Persona Adaptable Strategiesというのが説明されたのだが、10個の戦略は必ずしもレベルが合っていないように思われた。
最後にpersona-adaptable strategiesの例が示されたのだが、LLMに説明させるのではなくて、LLMとは何かという説明をペルソナに合わせて（人間が）やるという話みたいだった。何が何だかわからない。心構えの話を聞かされていたんだろうか。
Automated Query-Product Relevance Labeling using Large Language Models for E-commerce Search (Walmart Global Tech)
Eコマースにおいて、検索クエリと対応する商品のラベルは重要。従来は、実際にユーザが検索した履歴データや、人手で商品につけたラベルが使われていた。
この研究では、LLMで商品とクエリのペアを作るためにいくつかのテクニックを試した。使ったデータでは、クエリと商品のペアに「合っている」「一部合っている」「関係ない」などのラベルが付いたもの。LLMを使うテクニックは、few shot, Chain of Thought, RAG, Maximal marginal relevanceなど。LLMはLlama3.7Bなど5種類。
ここで昼食。その前に写真撮影。
昼食は隣の生協のカフェテリアで普通に料理をとって、会議の事務局がお金を払うというちょっと無理ゲーなシステム。土曜日だけど生協は結構混んでいた。早そうなのでカレーにした。
Keynote speech II
How Human Are Large Language Models? - A Dive into Rationality and Emotionality
Chair: Prof. Tim Shlippe, International University of Applied Sciences, Germany
・人間の要素をphysical, rational, emotionalの3つに分類。LLMにはphysicalはないので、rationalとemotionalのみがあるということになる。
・LLMはどのくらいrational（理性的？）か？
人間とLLMが生成した文章を比較。LLMには「○○の話題について文章を書け」と「○○の話題について人間のように文章を書け」の2つのプロンプトを利用。人間とLLMの2種のテキストを多くの特徴量で評価。
結論として、LLMが生成したテキストとリフレーズしたテキストでは生成したもののほうが品質が良い。言語による差は小さい。ドメインによって差があり、ニュースドメインは良い性能。
・LLMの書いたプログラムはどれくらい良いか？さまざまなLLMで様々な難しさのプログラムを書かせた。LLMのプログラムは完璧ではないが、それを修正する時間を含めても人間画角よりも効率が上がる。
・人間とAIの強調のための説明と可視化。教師の学生評価のためのXAI。評価値のほかにいろいろな情報を出す条件を比較。評価値と、どの部分がそれに関係するかを表示した場合が最も人間教師の評価が高かった。
・LLMはどれぐらい共感的(empathic)か？ニュートラルな文を、特定の感情に合わせてChatGPTに書き直させて評価したところ、高い精度で旨く書き直すことができた。また、ある感情で書かれた文に対する応答がうまくその感情を受けているかを見た場合、喜びはおおむねうまくいくが、ネガティブな感情は性能が低かった。また、感情的な応答の適切さをさまざまな指標で評価。LLMの種類によって違いはあるが、おおむね人間と同程度の応答ができるという結果。（人間の評価値の分布と比較しているが、全体として男性より女性の方が評価値が高いのが面白かった）
・Cross-caltural competenciesについて。5つの言語と、それぞれについて2つのサブカルチャー（英語についてアメリカとイギリスなど）を用意。World value surveyで使われている10個の評価語にもとづいて、人間とLLMを多次元空間上に配置した。結果としては、文化の違い以上に人間とLLM、LLM同士の違いが大きい。
Session II: Text Detection and Classification
Chair: Akinori Ito, Tohoku University, Japan
An Empirical Pipeline for Thematic Modelling of Author and Co-Citation Networks Using Text-Representing Centroids (King Mongkut's U of Tech North Bangkok, Thailand)
General ChairのHerwig Ungerが発表。共著と引用のネットワークのモデリングについて。データはWebをクローリングすることで取得（514本のPDF）。論文本体から話題をモデル化してクラスタリング。
モデリングにはtext-representing centroidsという方法を使う。また、セントロイドをクラスタリングすることで集約する。k-meansとhierarchicalの2つを比較。
共著グラフへの応用。頂点に著者、エッジにトピックを対応させて色づけて可視化。引用グラフについても似たように可視化できる。
Developing BERT-based ensamble for Filipino text classification (Ateneo de Manila U, Philippines)
ヘイトスピーチ識別にさまざまなBERTモデルを使う。対象はピリピノ語のSNS投稿。低資源言語に対するNLPというのが一つの目的になっている。データはフィリピンの大統領選挙に関連する18000投稿（Githubにあるらしい）。モデルはBERT, RoBERTa, DistillBERT, DeBERT-aなどと、複数の多言語モデル。アンサンブルにはhard voting, soft voting, stacking, blendingなどを比較。メタ識別器はロジスティック回帰、ナイーブベイズ、決定木、SVMなど。単独だとタガログ語BERTがよく、blending+ロジスティック回帰モデルが高い性能。
Identification of Meta-Cognitive Behavior of Trainee's Reflection Reports using Contrastive Learning (Kyushu U)
学生さんかな？英語の発音は良くない。職業訓練（？）において、振り返りの記述文の中にPDCAのAに対応する要素が入っているかどうかを識別する話のような気がする。識別には日本語BERTとXLMを利用したが日本語BERTのほうがよい。対照学習を使う方法はさらに高い性能を出す。
Swarm-based Classification of Medical Images with Integrated Clinical Text Analysis: A Novel Multimodal Approach (King Mongkut's Inst Tech Ledkrabang, Thailand)
医用画像診断だが、テキストも使うらしい。画像のほうはResNet50。テキストにはBERTベースの医用モデルを使う。2つのモダリティ統合は最初と最後の2つを比較。最適化ではクロスモーダルアテンションとかいろいろやっている。説明に図がないので、何をしているのかいまひとつわからない。性能は47%とかそれくらい。
Investigating Text and Image Features for the Detection of Cyberbullying (International U of Applied Sciences, Germany)
先ほどのキーノートのTim Schlippe先生が発表。ネットいじめ投稿の自動検出。画像とテキストが投稿されているときに、その両方を考慮していじめを検出する。MMHS150Kデータセットを利用する。6クラス分類。分類器は単純なMLP。単一特徴モデルと、複数特徴を組み合わせるモデルを比較。文書特徴として、文書ベクトル、error-based feature(?)、意味特徴、ネガティブワードなど、絵文字、AIフィードバック特徴を使う。画像特徴は、画像ベクトル、画像内のテキストの特徴、画像を説明するテキストの特徴の３つ。
単一特徴では、文書ベクトル、特殊文字、絵文字などが有効。画像では画像ベクトルと画像説明の特徴が有効。文書と画像を組み合わせても性能は向上しない。性能は文書のみで66&ぐらい。
Estimating Priority of Chronology Logs in Earthquakes and Torrential Rains (Okayama U)
災害対策本部でホワイトボードとかに記録される記録(chronology log)のなかで緊急対応すべき項目を推定する。優先度は緊急性と重要性の２つを勘案して決定される（最終的には評価者の平均）。推定の際にはソフトラベルを使ったordinal regression手法を使う。緊急性：高のデータは少ないので、各種手法でデータ量のバランスを取って比較。識別は日本語BERTを使用。データを増やすのにいろいろな方法を使ったが、単純に少ないデータを何度も使うのが最善。F1で0.568程度。
Enhancing Core-Set Active Learning: Unlocking New Frontiers in Text Classification (U of the Cumberlands, USA)
No Show
Invited Speech
Fine-Tuning Large Language Model for Aspect-oriented Opinion Pair Extraction with LoRA
Prof. Hidekazu Yanagimoto (Osaka Metropolitan U)
・LLMの基本的な説明
・プロンプトエンジニアリングは低コストだが、やりたいことをプロンプトとして言語化しなければならないので、ルールベースシステムと同じ欠点を抱えている
・プロンプトとファインチューニングを両方使う。ターゲットタスクはAspect-oriented Opinion Pair Extraction (AOPE)。AOPEは、文の中から評価語とその対象をペアとして抽出するタスク。単なるセンチメント分析より難しい。
・プロンプトと、LoRAチューニングされたモデルを使ってAOPEタスクを解く
・ベースモデルはLlaMA3-Instructive
・直接LLMを学習するアプローチ(71～79%)には劣るが、そこそこ良い結果(71～76%)
Session IV: Multimodal semantics and sentiment analysis for social media
Chair: Dr. Anirach Mingkhwan, King Mongkut's University of North Bangkok, Thailand
Automated Root Identification and Pattern Detection for Agglutinative Language Processing (Adam Mickiewicz U, Poland)
発表者は（大学はポーランドだけど）ジョージアの人で、ジョージア語に関する発表。ジョージア語は膠着語で、動詞は主語と目的語の人称によって変化し、5000以上の形態になるそうな。また、複合語が動詞になるとか、動詞が名詞にもなるとか、めんどくさい特徴をたくさん持っている。
この研究の目的は要するにジョージア語の形態素解析。モデル学習には強化学習を使っている。
Sarcasm Detection of Facebook posts using machine learning models (National Chengchi U, Taiwan)
Facebookのポストから皮肉を検出する話だが、前半は台湾のCOVID-19と大臣の話で、「校正回帰」という単語が問題になったとの話があったが、何の関係があるのか今ひとつわからなかった。ともかくその単語を含むポストから皮肉を検出するらしい。モデルはembedding+CNN+BiLSTM。特徴エンジニアリング＋各種識別器と比較する。結果を見ると、皮肉の検出ではなくセンチメント分析をやってるようで、わけがわからなかった。
Clickbait to Pinoybait: A BERT-based analysis of comments in foreign-made videos about the Philippines (De La Salle U, Philippines)
Pinoybaitは内容に関係ない動画タイトルで視聴者を釣る行為で、フィリピンで流行っている。Pinoybaitingに対する人々の反応がどう変化したかをNLPとデータ分析で探る。YouTubeからデータを集め、一部のコメントに手動でアノテーション。コメントにはIntention（5種類）とSentiment（3種類）のラベルをつける。BERTベースのモデルでIntentionが80%、Sentimentが73%ぐらいの性能。
モデルで分析した結果から、Pinoybaitingが始まってからpraiseが下がり、positiveも下がり、negativeが少し上がっている。
Estimation of Offensiveness of Posts on Social Media and Its Application to a Conversation Assistance System (Tohoku U, Japan)
去年修了した藤原くんの研究を私が発表。攻撃的ともそうでないともとれるSNSポストを検出して、それをフォローするポストをチャットボットがポストするというアイデアだが、結果的にうまくいかなかった（アイデアは面白いと思うが）。文化の違いに関する質問があった。
Comparative Analysis of Technology Trends in the Water Field accross IP5 Conutries using Natural Language Processing (K-water Research Institute, South Korea)
最初にk-water projectの説明があったと思うのだが聞き逃してしまった。IP5って韓国、中国、日本、米国、ヨーロッパのことらしい。
文書からのトピック抽出か検出で、LDA, keyBERTなどの説明があったのだが、全体として何をしようとしているのかわからない。K-waterに関係する文書にキーワードを自動付与する話のような気がする。時系列分析とかネットワーク分析の話もあったのだが、結果を見てもなんだかわからない。
Detecting Abusive Tweets about the Presidential Election (De La Salle U, Philippines)
2022年フィリピン大統領選挙のときにはSNSの有害性が問題になったことがあり、この研究ではそれに関するポストから不適切ポストを検出する。TF-IDF+SVM、BiLSTM、RoBERTaを比較。組み合わせた階層的検出も試した。RoBERTaを使った場合が最も高性能。Implicit abusive posts（直接的な表現がないが不適切なポストか？）の検出が難しい。組み合わせることで性能が上がる。
18時過ぎにセッション終了。私の発表がセッションのベストペーパーに選ばれた。
ここからバスで駅前まで行き、駅前の居酒屋で夕食の予定だが、開始が20時なのでだいぶ時間がある。調べたらここから駅まで3キロぐらいしかないので、歩いてホテルまで行ってチェックインすることにした。
Googleマップを見ながら歩き、40分ほどでホテルに到着。
ホテルにチェックインして、少し休んだ後、19時半ごろに夕食会場に向かう。
夕食は駅前の居酒屋「九十九」なのだが、行ったところで前の時間のお客さんが出てくるところだった。子連れのグループだが、岡山では子連れ居酒屋は普通なのか。会議の参加者が入り口付近でたむろしている。
10分前ぐらいに中に入れた。個室居酒屋ではあるのだが、会場は人数ぎりぎりでぎゅうぎゅう詰め。
国際会議で食べ物に制限がある人がいる可能性があるせいか、事前にコースを頼んでいなくて、ローカルアレンジの竹内先生がその場で肉コースか魚コースか鶏コースかを選ばせようとしていたが、部屋の中はもうぐちゃぐちゃで誰が何を頼んだかよくわからない状態。そのあと店と交渉したら、今からコースを頼むことができないということだったので、結局料理を個別に頼むということになった。学会の経理は大丈夫なんだろうか。飲み物は飲み放題だが、最初は全員とりあえずビールとかいうこともなく、あれこれ頼んでいる。
頼むときは、席のQRコードからWebアプリにアクセスして頼む形式だったのだが、最初全くアプリにつながらなかった。その後なんとかつながったのだが、飲み物しかメニューに出てこない。店員を呼ぶと注文はアプリでやれということで混乱したが、後から店員が別のコードを持ってきて、そちらは料理も注文できるやつだった。
参加者各自が勝手に酒と料理を注文しているので、たくさん来るのだが誰が頼んだかわからない状態。みんな頼んだ人とは関係なく適当に飲み食いしている。海外の参加者は馬刺しが珍しいらしく、たくさん頼んでいた。
カオスな宴会も22時過ぎに終了。近くのコンビニで飲み物などを買ってホテルに戻る。
少し休んで23時頃寝る。
O̓úÖ ڎÖ ̓úÖ