3月15日 (水)
| 13:10-13:40 | 伊藤 創祐 (東京大学) | 最適輸送と熱力学的最適化 |
| まず連続状態におけるMonge-Kantorovich最適輸送問題[1], 特にL2-Wasserstein距離の数理と物理との関係について解説を行う. 具体的には最適輸送理論と熱力学との接点となる勾配流[2]や, 最適輸送理論と流体力学との接点に関するBenamou-Brenier公式[3]について触れる. またこれらの関係が非平衡系の熱力学におけるエントロピー生成最小問題と結びつくこと[4]を, Fokker-Planck方程式に限定して説明する. これらの結果を踏まえ, 我々の最近の結果であるエントロピー生成の分解[5,6]や, エントロピー生成の下限である熱力学的速度限界[5]及び熱力学的不確定性関係[6]と呼ばれる熱力学的なトレードオフ関係の一般化が最適輸送理論に基づいて導出できることを紹介し, 熱力学的最適化と最適輸送が結びつくことを議論したい. またこれらの最適輸送理論に基づいた熱力学的な解釈に基づいて, L2-Wasserstein距離で与えられる最適輸送の幾何が分布の時間発展に関する情報幾何及び経路の確率における情報幾何という二つの情報幾何と密接に関係すること[7]にも触れたい. [1] C. Villani, Optimal transport: old and new, Springer (2009). [2] R. Jordan, D. Kinderlehrer & F. Otto, SIAM journal on mathematical analysis 29, 1 (1998). [3] J. D. Benamou & Y. Brenier, Numerische Mathematik 84, 375. (2000). [4] E. Aurell, C. Mejía-Monasterio & P. Muratore-Ginanneschi, Phys. Rev. Lett. 106, 250601 (2011). [5] M. Nakazato & S. Ito, Phys. Rev. Res. 3, 043093 (2021). [6] A. Dechant, S. Sasa & S. Ito, Phys. Rev. Res. 4, L012034 (2022). / Phys. Rev. E. 106, 024125 (2022). [7] S. Ito, Information geometry, in press (2023). |
| 13:50-14:20 | 大泉 匡史 (東京大学) | Is my “red” your “red”?: Unsupervised alignment of qualia structures via optimal transport |
| A fundamental question in the study of consciousness is “To what extent are sensory experiences equivalent between individuals?” One promising approach is to intersubjectively compare the similarity relationships of sensory experiences, named “qualia structures”‘. An issue with existing methods is the assumption that sensory experiences evoked by the same stimuli must be matched across participants, precluding the possibility that “my red” might be “your blue”. To address this limitation, we present a novel method for assessing the degree of similarity between qualia structures without assuming any correspondence between experiences across individuals. Our approach, based on Gromov-Wasserstein optimal transport, aligns subjective experiences in a purely unsupervised manner, using only their subjective relationships. As a proof of concept, we applied our method to a large-scale dataset of color dissimilarity judgments and found that qualia structures can be aligned solely based on the subjective relationships between experiences. This method offers a new means of quantitatively investigating the structural properties of subjective experiences. |
| 14:40-15:10 | 包 含 (京都大学) | Sparse Regularized Optimal Transport with Deformed q-Entropy |
| 最適輸送問題の計算量の低減を目的として、近年では正則化による凸緩和が注目されている。特に、シャノンエントロピーによる正則化を行うと最適化が行列スケーリング問題に帰着され、実用的にも非常に高速に解けることが知られている。一方で、エントロピー正則化付きの輸送解は密行列になってしまい、解のアラインメントとしての解釈性が下がってしまう問題がある。本研究では、スパースな輸送解を誘導するような凸正則化を設計するために、q-指数型分布が有用であることを実証した。実験的には解のスパース性と計算効率性がトレードオフ関係にあることを確認した。 |
| 15:20-15:50 | 佐藤 竜馬 (京都大学) | 最適輸送が遅すぎる（スライス法による解法） |
| 最適輸送は確率分布や点群を比較するための有効なアプローチですが、計算量が大きく、大規模なデータに適用することができません。スライス法は、一次元データに限定すれば最適輸送が効率よく解けることを利用した、確率分布を比較するための計算効率のよいアプローチです。スライス法を用いれば、数百万のデータ点を含む点群も数秒で比較することができます。本講演ではスライス法の概要と関連した最先端の研究をご紹介します。 |
| 16:10-16:40 | 唐木田 亮 (産業技術総合研究所) | 知識転移の学習曲線: 可解な学習ダイナミクスの知見 |
| 深層学習の発展により, 同じモデルを異なるタスク間で段階的に訓練して利用する転移学習や継続学習が高い性能を発揮しつつある. こうした大規模モデルは過剰パラメータ系, すなわちデータ数よりもパラメータ数が多い状況であり, どの解が選ばれるかは学習ダイナミクスに依存する. 本講演では機械学習における広い意味での力学的な話題として, 継続学習の知識転移について主に紹介する. 統計力学的解析を使うことで, 複数のタスクで継続的に学習する線形化モデルの汎化性能を典型評価することができる. タスク数に対する汎化誤差の増減(学習曲線)は, タスクの類似度およびサンプル数の均衡に依存して非単調に変化する性質を持つ. |
3月16日 (木)
| 9:50-10:20 | 鳥谷部 祥一（東北大学) | 熱で揺らぐ系の最適制御と最適輸送 ― 生体分子マシンを例に ― |
| 生物の細胞内では，生体分子マシンと呼ばれる10nm程度の分子マシンが活発に働き，細胞の重要な機能を担っている．このような分子マシンは，激しい熱揺らぎの中で，その要素を巧みに変形させながら機能を発揮する．特に，一方向に運動する分子マシンである分子モーターは，その要素を一方向に輸送して機能を発揮する．生体分子マシンは，数10億年の進化の過程で動作に最適な制御・輸送機構を獲得したと考えられているが，その「巧みさ」は理解しきれていない．本講演では，回転分子マシンF1について，制御と輸送に焦点をあてて，実験データを基に議論したい．特に，F1が巧みな機構によりエネルギー的な効率を最適化している様子を示したい． |
| 10:30-11:00 | 神野 圭太 (Academia Sinica) | Escherichia coli chemotaxis is information limited |
| Organisms acquire and use sensory information to guide their behaviors. However, it is unclear whether and how this information constrains the ability of organisms to perform behavioral tasks. In a recent work, using E. coli chemotaxis as a model system, we showed that the sensory information that a bacterium acquires sets an upper limit on its behavioral performance. Furthermore, combined with quantitative experiments, we quantified the rate at which E. coli acquire information during navigation and discovered that E. coli use the acquired information efficiently. In this talk, I will succinctly review the key findings of the work. |
| 11:20-11:50 | 有賀 隆行 (山口大学) | 非熱的にゆらぐ細胞内環境に最適化する生体分子モーター |
| 細胞内で小胞を輸送する生体分子モーターであるキネシン(kinesin-1)は、熱ゆらぎを利用して効率的に一方向の運動を実現すると提唱されてきた。一方、生きた細胞内の環境は、エネルギーを消費して非熱的にゆらいでいることも明らかになった。そこでキネシンは、非熱的にゆらぐ細胞内環境にうまく最適化されているだろうと仮説を立て、１分子のキネシンにゆらぎを加えながら運動を計測した。その結果、外力のゆらぎによって（特に高負荷下で）キネシンが加速する現象を見出した[Ariga, PRL 127, 178101 (2021)]。本会では、これらの実験結果を紹介しつつ、細胞内で働く輸送モーターがなにを最適にしているかについて議論したい。 |
| 13:30-14:00 | 甘利 俊一 (帝京大学) | Wasserstein統計学 |
| 確率分布間の距離（ダイバージェンス）として、KLダイバージェンスとWasserstein ダイバージェンスがある。観測された測定量から分布を推定または検定する統計学は、これまで尤度原理にもとずいて、KLダイバージェンスを用いて行われ、efficiencyを始め高度な理論が築かれている。Wassersteinダイバージェンスに基ずく統計学はどんな特徴があるのだろうか。LiとZhouの理論に基礎をおいて、Wasserstein 統計学を建設する。KLダイバージェンスに基ずく最尤推定量は有効性を持ち、W推定量は一般に劣る。しかし、波形安定性に関して、W推定量は頑健性を有する。両者が一致するのはガウス分布の時、この時に限る。 |
| 14:20-14:50 | 濱崎 立資 (理化学研究所) | 巨視的遷移に対する速度限界 |
| 巨視的な系における状態遷移の理解は、非平衡統計力学の重要な問題であると共に、量子技術をはじめとした多くの応用に不可欠である。非平衡遷移の速度に関する原理限界（速度限界）の追究は1945年のMandelstam-Tammによる先駆的な仕事に始まり、その後多くの研究がなされている。しかし、巨視的な遷移に対して既存の速度限界は典型的に発散し、有益な不等式を与えない。我々は、確率の局所保存則という物理学の基本原理に基づき、巨視的な遷移に対し有効な速度限界を得る一般的な枠組みを議論する[1]。具体的には、物理量の期待値や揺らぎの時間変化率が、その物理量の勾配と、確率流を用いた量で表されることを示す。本講演ではこの枠組みを連続系、離散量子多体系、確率過程系などに応用し、その物理的意味や最適輸送理論との関連について述べる。 [1] Ryusuke Hamazaki, Speed Limits for Macroscopic Transitions, PRX Quantum 3, 020319 (2022). |
| 15:00-15:30 | Tan Van Vu (理化学研究所) | 離散最適輸送のゆらぎ熱力学 |
| 最適輸送は数学・統計学の成熟した分野であり、確率分布を輸送する際の最適計画や最適コストについての理論である。近年、最適輸送とゆらぎ熱力学の深い関係が連続状態のoverdampedランジュバン力学の文脈で解明され、エントロピー生成の最小化問題が最適輸送問題にマッピングできることが明らかにされた。また、この関連性から、タイトな速度限界や有限時間ランダウアーの原理など、重要な応用がなされている。本講演では、離散最適輸送の熱力学的枠組みを構築することにより、離散状態の系でのゆらぎ熱力学と最適輸送との類似な関係を説明する。具体的には、離散ワッサースタイン距離とマスター方程式で記述される離散マルコフ過程のゆらぎ・量子熱力学を結びつける変分公式を紹介する。これらの公式は、熱力学と最適輸送理論の関係を離散的および連続的なケースで統一するだけでなく、量子的なケースにも一般化するものである。特に、厳密な熱力学的速度限界や有限時間ランダウアー原理など、ゆらぎ・量子熱力学の顕著な応用につながるものである。 |
| 15:50-16:20 | 田島 裕康 (電気通信大学) | 熱流と量子効果の関係 |
| 量子情報処理をはじめとして、量子的な重ね合わせは様々なデバイスの性能に大きな影響を与える。熱力学的デバイスも例外ではなく、量子効果による性能向上が活発に研究されている。この影響は、性能を向上させる性質のものもあれば、低下させる性質のものもある。本発表では、量子マスター方程式に従う範囲において、熱的なエネルギーの流れに量子重ね合わせがどう影響するかを系統的に分類する。特に量子重ね合わせをうまく用いることで、散逸のない熱流を実現し、有限時間のサイクルにおいてカルノー効率を近似的に達成できることも見る。 |
| 16:30-17:00 | 吉村 耕平 (東京大学) | L^2-Wasserstein距離と離散ダイナミクス |
| L^2-Wasserstein距離は，連続分布に対するFokker–Planck方程式を勾配流方程式として定式化することを可能にする．一方，離散Markovジャンプ過程を考察する場合も，遷移レートを指定することで L^2-Wasserstein 距離相当の距離関数 (ここではMaas–Wasserstein距離，縮めてMW距離と呼ぶことにする) が定義することが有用であることが知られている[1]．結果として，対応するマスター方程式を勾配流方程式として定式化したり[1]，凸性やRicci曲率に関係した不等式を議論することができる[2]．MW距離はこのような優れた数理的性質を持つ一方で，その表式が物理的解釈が難しく，物理側からの議論は限られた先行研究[3]を除いて行われてこなかった． 本講演では，実際にはMW距離を物理的に極めて自然な方法で表すことが可能であり，連続系におけるL^2-Wasserstein距離のある意味での素朴な対応物になっていることを示した上で，上記の数理的性質の解説を行う．さらに物理的な観点からも，系の保存性の破れに立脚したエントロピー生成の分解や，最小エントロピー生成と密接に関係していることを明らかにする[4]． [1] J. Maas, J. Func. Anal. (2011). [2] M. Erbar, and J. Maas, Arch. Rational Mech. Anal. (2012). [3] T. Van Vu, Y. Hasegawa, Phys. Rev. Lett. (2021). [4] K. Yoshimura, A. Kochinsky, A. Dechant, and S. Ito, Phys. Rev. Res. (2023). |
3月17日 (金)
| 9:50-10:20 | 竹内 尚輝（横浜国立大学) | 断熱超伝導回路 —可逆計算への応用— |
| 断熱超伝導回路は、可逆的な論理状態の変化により極めて小さな散逸で論理演算を行うことが可能であり、将来のハイエンドコンピュータへの応用が期待されている。本研究では、断熱超伝導回路の基礎と最新動向について包括的に報告する。特に、断熱超伝導回路を用いることで、Landauer原理等の情報とエネルギーに関する理論を回路レベルで議論できること、ならびに究極的な低エネルギー計算機である可逆計算機を回路レベルで実現できることを示す。 |
| 10:30-11:00 | 吉岡 健太郎 (慶應義塾大学) | アナログが世界を救う? アナログコンピューティングの応用と課題 |
| 低消費電力のDeep Learning Accelerators（DLAs）はバッテリー駆動のIoTデバイスに必要であり、特に積和演算を実施する電子回路の高効率化が求められております。 これまでにデジタル回路ベースDLAの効率改善に膨大な研究が注がれてきましたが、限界が見え隠れしています。 この講演ではより一層の効率化のためにアナログコンピューティングの研究を紹介します。 具体的にはデジタル回路やアナログ回路の基本からはじめ、DNNが低精度演算を許容できる特性を活かしたアナログ回路ベースDLAの研究や課題について紹介します。 |
| 11:20-11:50 | 高前田 伸也 (東京大学) | 確率的コンピューティング基盤技術の創出に向けて |
| CPUやGPU等の今日の計算ハードウェアは、計算の厳密性を最優先にして、演算と記憶を決定論的にゆらぎなく行うデジタル回路に基づくものである。厳密な大規模なデジタル回路の実現には、トランジスタのばらつきを考慮し遅延や電圧に安全マージンを持たせた設計が求められる。しかし、この設計上のマージンは電力効率向上の足枷となっている。そこで、計算結果の非厳密性や不確実性を許容し電力効率を高める技術として近似計算 (Approximate Computing) が研究されている。しかし、むやみな近似の導入は最終的なアプリケーションの信頼性を低下させるため、計算結果の不確実性を理解することが求められる。本発表では、発表者等がこれまでに取り組んできた機械学習計算における確率的近似計算技術に関する研究を紹介した後、信頼される汎用の確率的コンピューティング基盤の実現に向けて求められる技術について議論する。 |
| 13:30-14:00 | 岡野原 大輔 (株式会社Preferred Networks) | 拡散モデルとその周辺 |
| 拡散モデルはデータにノイズを徐々に加え破壊していく拡散過程を逆向きに辿る生成過程によって生成モデルを定義する。この生成過程は、異なる強さの撹乱後分布上でスコアに従って遷移していくSDEやODEで表すことができる。また、この拡散モデルと良く似た定式化でサンプル毎の事前分布からサンプル点への最適輸送を統合し、事前分布から目標分布への変換フローを表すことができる。これらのモデルは学習しやすい、高次元かつ多峰性のある分布を効率的にサンプリングできるという実用的な利点だけでなく、非平衡熱力学や最適輸送など他の分野との接点も多い。本講演では拡散モデル、それと周辺分野との接点、未解決問題について述べる。 |
| 14:20-14:50 | 高津 飛鳥 (東京都立大学) | Sliced Wasserstein距離構造について |
| n次元ユークリド空間上のWasserstein距離は、1次元の場合は容易に求めることができる一方で、2次元以上の場合は一般には求めることが難しい。このことを鑑みて、Wasserstein 距離関数の類似物で計算が簡易だとされる sliced Wasserstein 距離関数という概念が導入された。本講演では、sliced Wasserstein 距離関数を含む距離関数の2径数族を紹介する。そしてその性質を、とくにWasserstein 距離関数との違いに重きをおいて、注意喚起の意味も込めて説明する。 本講演は北川潤（ミシガン州立大学）との共同研究に基づく。 |
| 15:00-15:30 | 今泉 允聡 (東京大学) | 高次元ガウス近似によるWasserstein距離推定の不確実性評価 |
| 本講演では、観測データの元で計算するWasserstein距離の不確実性の評価と、それに基づく統計的推論法を開発する。問題として、観測された有限のデータから生成分布に関するWasserstein距離を推定し、その推定の不確実性を評価することを考える。この問題において、Wasserstein距離に特有な性質により、従来の不確実性評価が困難であることが知られている。本研究では、Wasserstein距離の双対表現と近年の高次元ガウス近似法を活用し、有効な推定の不確実性評価とそれに基づく統計的検定法を開発する。さらに時間的余裕があれば、Wasserstein距離の亜種に対する統計的推論法に関する研究にも言及する。 |
| 15:50-16:20 | 田中 章詞 (理化学研究所) | 識別器による最適輸送 |
| 深層学習を用いた潜在変数モデルの代表的な二つの例として、変分自己符号化器と敵対的生成ネットワークが知られています。これらは共に二つのネットワークを訓練するモデルです。変分自己符号化器は画像などのデータを潜在変数にエンコードする符号化器と、それをデコードして画像に戻す復号化器から構成されます。敵対的生成ネットワークは潜在変数から新たな画像を作り出す生成器と、それを本物と見分ける識別器から構成されます。変分自己符号化器ではそれぞれのネットワークが訓練後も明確な応用（符号化、復号化）を持ちますが、敵対的生成ネットワークの識別器は一見明確な応用先を持たないように思えます。本講演では最適輸送理論のアイデアを借用することで識別器を用いて生成器の画像生成の品質改善が可能なことと、その他の識別器の応用について説明します。 |
| 16:30-17:00 | 横井 祥 (東北大学) | ChatGPT と自然言語処理 / 言語の意味の計算と最適輸送 |
| 最適化・機械学習コミュニティが発展させた計算最適輸送の技法群が、人間の言葉を計算機で扱う自然言語処理分野でも積極的に活用されるようになった。本講演では、アラインメントを介した類似度を計算する道具としての最適輸送が言語の問題を解くのになぜ適しているのかについていくつかの魅力的な具体例を挙げながら述べる。とりわけ、言語データの持つ再帰構造および深層学習時代以後手に入るようになった質の高い分散表現が最適輸送とマッチしていること、また不均衡最適輸送などの最適輸送の亜種が言語の意味の計算によくマッチしていることを述べる。最後に言語処理が必要としているさらなる要請と今後の課題を述べたい。 |