区分
環境データサイエンス科目 環境情報科目 環境情報展開科目
ディプロマ・ポリシーとの関係
専門性
理解力
実践力
カリキュラム・ポリシーとの関係
専門知識
教養知識
思考力
実行力
カリキュラム全体の中でのこの科目の位置づけ
本科目は、これまでに「Rプログラミング入門」や「環境統計解析学基礎」等の科目で学習した知識や技術を足掛かりとし、今後、卒業研究等のより応用的な課題に取り組むための、手法を学ぶ場であり、基礎と応用をつなぐ実践的な手法学習の中心に位置づけられる。
科目の目的
私たちが直面する社会問題・環境問題の多くは、複数の要因が複雑に関連し合う中で生じている。そのため、たとえ豊富なデータが得られたとしても、そこから有用な情報を取り出し、課題の理解や解決に役立てることは容易ではない。本科目では、さまざまな多変量解析手法について、それぞれの特徴、どのような場面で役立つのか、どのように使うのか、分析にあたってどのような点に注意すべきなのか、といった基本的な仕組みや考え方を学ぶ。本科目は、多様な分析手法が「どのような分析タスクに対応するのか」を俯瞰的に捉える「多変量解析の地図」を獲得し、卒業研究をはじめ将来行う研究や業務で課題へ直面した際に、目的やデータの特性に応じて適切な手法を選択し、適用・解釈するための基礎力を身につけることを目的とする。
到達目標
・多変量解析を行ううえで必要となる基本的な用語や概念を理解し、その意味を説明できる。
・観察研究の必要性や観察データを扱ううえでの難しさを理解し、複雑な事象を解釈するために多変量解析が果たす役割を説明できる。
・クラスター分析、主成分分析、因子分析、回帰分析について、それぞれの目的、特徴、基本的な結果の読み方、適用上の注意点を説明できる。
・教師なし学習と教師あり学習の基本的な違いを理解し、グループ化、次元削減・要約、潜在構造の把握、回帰、分類などの代表的な分析タスクと、手法・アルゴリズムとの関係を説明できる。
・データ分析の目的やデータの特性を踏まえて、分析に用いる変数の役割や分析タスクを整理し、適切な手法を選択するための基本的な分析方針を構想できる。
科目の概要
本科目では「多変量解析」を軸に、複数の変数を同時に扱ってデータに含まれる構造や関連を捉え、分類や予測などを行うための統計的手法や関連するデータ分析手法を学ぶ。多変量解析は、複雑なデータから実際の事象を理解するうえで有用だが、その結果から直接、因果関係が分かるわけではない。第1回では、導入として多変量解析の意味とデータサイエンス全体における位置づけを概観し、その材料となる「データ」「変数」に関する基礎的な考え方を扱う。第2回では、「実験研究」と「観察研究」の違いを踏まえ、社会・環境課題では倫理的・実務的な理由などから実験が困難な場合が多いこと、また、そのような場合に用いられる観察データには多数の要因やばらつきが含まれ、解釈が容易ではないことを学ぶ。そのうえで、複数の変数を同時に扱う多変量解析が、観察データから構造や関連を捉え、実際の事象を理解する「観察研究」において、どのように役立つかを考える。第3~9回では、目的変数を設定せずデータの構造を捉える分析手法(機械学習における「教師なし学習」)を学習する。第3~5回でクラスター分析、第6・7回で主成分分析、第8・9回で因子分析を扱う。第10回~第14回では、目的変数を設定して予測する分析手法(機械学習における「教師あり学習」)を学習する。第10回は、教師あり学習の概念を俯瞰し、数値を予測する「回帰」とカテゴリを予測する「分類」の違いを整理する。第11~14回は回帰を中心に、単回帰分析、重回帰分析、さまざまな回帰モデル、モデル評価を学び、モデル構築・予測・過剰適合・交差検証など、将来、分類問題を学習・実践する際にもつながる基本的な考え方を身につける。第15回では科目全体を総復習し、各分析タスクと手法・アルゴリズムの関係を再整理して「多変量解析の地図」を思い描くことができるようにする。
科目のキーワード
多変量解析、分析タスク、教師なし学習、教師あり学習、クラスタリング、主成分分析、因子分析、回帰分析、分類、モデル評価
授業の展開方法
本科目では、教員がオリジナルの講義資料(Microsoft PowerPoint)を用いて解説し、R言語による実践を組み合わせながら授業を進める。各手法については、まず「何をするための手法なのか」「どのような課題に役立つのか」を具体的な事例から理解する。その後、教員が用意したRコードを学生自身が実行し、得られた図表や分析結果を確認しながら、結果の読み方、解釈の仕方、分析を行う際の注意点を学ぶ。手法の仕組みについては、数式による説明は最小限とし、視覚的・直感的に理解できるよう解説する。
授業資料や必要なRコード等は適宜配布する。授業の冒頭で前回の内容を簡単に振り返り、授業の最後には当該回で学習した内容を整理する。また、授業内ではインタラクティブな可視化教材を積極的に活用し、難しい概念の理解を助ける。
全15回の授業内容は以下の通りである。
1 多変量解析ことはじめ(ガイダンスも行う)
2 多変量解析の役割
3 [教師なし]クラスター分析1_概要
4 [教師なし]クラスター分析2_非階層的クラスタリング
5 [教師なし]クラスター分析3_階層的クラスタリング
6 [教師なし]主成分分析1_実践
7 [教師なし]主成分分析2_理論
8 [教師なし]因子分析1_実践
9 [教師なし]因子分析2_理論
10 [教師あり]回帰と分類
11 [教師あり]回帰分析1_単回帰分析
12 [教師あり]回帰分析2_重回帰分析
13 [教師あり]回帰分析3_さまざまな回帰モデル
14 [教師あり]回帰分析4_回帰モデルの評価
15 総復習
オフィス・アワー
【火曜日】4時限目(前期のみ)・5時限目、【木曜日】4・5時限目、【金曜日】4・5時限目
科目コード
ENS522
学年・期
2年・後期
科目名
環境統計解析学応用
単位数
2
授業形態
講義
必修・選択
選択
学習時間
【授業】90分×15 【予習】90分以上×15 【復習】90分以上×15
前提とする科目
環境統計解析学基礎
展開科目
なし
関連資格
なし
担当教員名
蛭田有希
回
主題
コマシラバス項目
内容
教材・教具
1
多変量解析ことはじめ(ガイダンスも行う)
科目の中での位置付け
本科目は、複数の変数を扱う統計的手法と関連するデータ分析手法を、分析タスクの「地図」として整理しながら学ぶ科目である。第1回はその出発点として、授業の目的・到達目標・評価方法を確認し、多変量解析がデータサイエンスの中でどのような役割を持つかを概観する。さらに、DIKWピラミッドを手掛かりにデータを分析して情報や知識につなげる考え方を確認し、以後の授業で共通して用いるデータ、変数、尺度、標準化の基本概念を整理する。第2回では、実験が難しい社会・環境課題で観察研究が重要となる理由と、複雑な観察データを扱ううえで多変量解析が役立つことを学ぶ。第3~9回は教師なし側、第10~14回は教師あり側の分析を学び、第15回に全体を再統合する。本コマは本科目全体の見取り図を描き、今後の授業に向けて準備を整える導入回に位置づけられる。
【コマ主題細目①~⑤】
コマ用オリジナル配布資料
コマ主題細目
① ガイダンス ② 多変量解析の魅力 ③ データサイエンスにおける多変量解析の位置づけ ④ DIKWピラミッドと多変量解析 ⑤ データと変数
細目レベル
①
ガイダンス
最初に、本科目の目的、到達目標、授業の進め方、評価方法、参考文献、必要な学習環境を確認する。続いて、第1回から第15回までの授業構成を「多変量解析の地図」として概観し、第3~9回では目的変数を設定せず構造を捉える手法を教師なし側、第10~14回では目的変数を設定して予測する手法を教師あり側として整理することを確認する。授業ではRコードを一から書けることや数式を導出できることよりも、分析の目的、入力するデータ、得られる結果、結果を読む際の注意点を理解することを重視する。あわせて、配布資料やRコードの利用方法、授業中に図表や実行結果を確認する基本的な流れを説明し、以後の学習に見通しを持って取り組めるようにする。
②
多変量解析の魅力
本科目で学習する「多変量解析」(multivariate analysis)が、実際のデータ分析においてどのように役立つのかを、身近な活用事例を通じて理解する。社会・環境に関するデータには、多数の変数が含まれ、それらが互いに関連していることが多い。そのため、個々の変数を一つずつ眺めるだけでは、データ全体の特徴や重要なパターンを捉えることが難しい場合がある。多変量解析を用いることで、例えば、多数の観測地点を特徴の似たグループにまとめる、多くの環境指標を少数の軸に要約して全体像を見やすくする、複数の観測項目に共通する構造を捉える、複数の要因から将来の値を予測するといったことが可能になる。ここでは、実際の活用事例と分析前後のデータの見え方を比較しながら、多変量解析によって複雑なデータを整理し、そこから特徴や関連を見いだし、現実の課題を考えるための手掛かりを得られることを理解する。「難しい数式を使う方法」としてではなく、複雑なデータを理解しやすい形に変え、新しい気づきを得るための道具として、多変量解析を学ぶ魅力を実感する。
③
データサイエンスにおける多変量解析の位置づけ
多変量解析と機械学習はどう違うのだろうか。単純な数値の集計や統計解析から、機械学習、AIに至るまで、データを扱う方法は多様である。ここでは、広いデータサイエンスの中で、多変量解析で培われてきた考え方がどのような位置を占めるかを概観する。細目では、統計学と機械学習を互いに分断されたものとして捉えず、クラスタリング、次元削減、回帰、分類などのタスクごとに、複数の統計的手法や機械学習アルゴリズムが選択肢となり得ることを学ぶ。また、機械学習で用いられる教師あり学習・教師なし学習という区分についても学び、これらを多変量解析の各手法と関連づけながら、分析方法を整理するための一つの見方として理解する。そして、将来新しい手法に出会ったときに、まず課題や目的を適切なタスクとして捉え、そのタスクを実現する複数の手法の中から、データの性質や分析目的に合ったものを選択する必要があることを理解する。
④
DIKWピラミッドと多変量解析
「データ」と「情報」の違いは何だろうか。ここでは、「データ」「情報」「知識」「知恵」という関係を整理するための一つの考え方として、DIKW(Data, Information, Knowledge, Wisdom)を紹介する。DIKWは統計解析の理論そのものではなく、データをそのまま蓄積するだけでは意思決定につながらず、整理、分析、解釈、既存の知識との照合などが必要であることを考えるための枠組みである。多変量解析は、複数の変数からなる「データ」から構造や関連を見いだし、解釈可能な「情報」を得るために有用な方法の一つである。社会・環境課題の解決に向けた分析では、多数の要因が同時に関係しており、単純な集計や二変数の比較だけでは捉えにくい事象を対象とすることも多い。ここでは、データを課題の理解につなげるための多様な分析手段の中で、多変量解析がどのような役割を担うかを考える。
⑤
データと変数
「データ」と「変数」の違いは何だろうか。「データ」は、実験・観察・調査などにおける観測、測定、記録によって得られた値や記録の集合であり、数値、文字、画像、音声などさまざまな形式をとる。統計学における「変数」は、観測対象ごとに異なる値を取り得る属性や特性を表すものである。例えば、「身長」が変数であり、各人について測定された身長の値がデータである。なお、プログラミングにおける「変数」は、値を格納する名前付きの領域を指すことがあるため、統計学における変数とは区別して理解する。変数には、数値で表される「量的変数」と、カテゴリーや属性で表される「質的変数」があり、量的変数には間隔尺度と比率尺度(比例尺度)、質的変数には名義尺度と順序尺度が含まれる。このような変数の種類や尺度を理解することは、適切な分析手法や可視化方法を選ぶうえで重要である。さらに、多変量解析において重要となるデータの標準化、複数の変数を分析に適した形に整理するための「整然データ」の考え方、long形式とwide形式の違いについても確認する。
キーワード
① 多変量解析 ② データ ③ 変数 ④ データ標準化 ⑤ 整然データ
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
2
多変量解析の役割
科目の中での位置付け
第1回では、多変量解析の全体像と、分析の材料となるデータ・変数の基本概念を学んだ。第2回は、なぜ現実の社会・環境課題を理解するために多変量解析が必要になるのかを考えるコマである。社会・環境課題では、ある条件や介入と結果との関係を知りたい場面が多く、ランダム化比較試験などの実験研究は、因果効果を検討するうえで有力である。しかし、倫理、費用、時間、実行可能性などの制約から実験を行えず、観察研究に頼る場面も多い。観察研究では、多数の要因が同時に関係していることに加え、原因と結果の双方に関係する交絡因子などが存在するため、単純な二変数の比較だけでは事象を十分に捉えにくい。そこで、複数の変数を同時に扱い、データの構造や関連を整理する多変量解析の考え方が重要となる。本コマでは、実験研究と観察研究の違いを入り口として、観察データを分析する難しさと多変量解析の役割を理解する。多変量解析だけで因果関係が確定するわけではないという限界も確認し、第3回以降で具体的な手法を学ぶ意義を理解する。
【コマ主題細目①~④】
コマ用オリジナル配布資料
コマ主題細目
① 因果関係把握の必要性と難しさ ② ランダム化比較試験による因果関係の把握 ③ 実験研究と観察研究 ④ 観察研究における多変量解析の役割
細目レベル
①
因果関係を知ることの重要性と難しさ
社会・環境課題では、「二つの事象が一緒に変化しているか」だけでなく、「ある条件や対策を変えたときに結果がどう変わるか」を知りたい場面が多い。例えば、環境対策の実施と水質の改善が同時に観察されても、その対策だけが変化の原因であるとは言えない。気象、土地利用、人口、測定条件など、他の要因も同時に変化している可能性があるためである。ここでは、相関関係が認められたことと、因果関係があるということは同じではないという基本的な考え方を理解する。現実のデータを解釈するときには、一つの変数だけでなく、複数の変数や周辺の情報をあわせて検討する必要がある。そのうえで、「何がデータから直接分かり、何を慎重に解釈する必要があるのか」を区別して考える姿勢の重要性を学ぶ。
②
実験研究とランダム化比較試験
ある条件や介入の効果を検討する方法として実験研究があり、その代表的な研究デザインの一つにランダム化比較試験(Randomized Controlled Trial、RCT)がある。RCTでは、対象を介入群と対照群などの複数の群に無作為に割り付けることで、介入以外の背景要因が特定の群に偏ることを平均的に抑え、群間の比較を行いやすくする。このため、RCTは介入効果を評価する研究デザインの「ゴールドスタンダード」とされる。しかし、ランダム化を行っても、有限の標本では背景要因が完全に同じになるわけではなく、脱落や測定誤差など別の問題も生じ得る。実験研究は因果効果を検討するうえで有力な方法である一方、社会・環境課題では、倫理、費用、時間、規模、実行可能性などの理由から実施できないことも多い。本細目では、研究者が条件や介入を割り付けて比較する実験研究とその限界、自然に生じた状況を観察する研究の必要性を学び、両者ではデータから結論を導く際の難しさが異なることを理解する。
③
観察研究と観察データの複雑さ
実験を行えない、あるいは行うことが適切でない課題では、現実に生じている状態を観察・測定して得たデータを用いる観察研究が重要になる。環境データや社会データには、対象の個体差、地域差、時間的な変化、測定誤差、欠測、外れ値などさまざまなばらつきが含まれ、複数の要因が同時に関連していることが多い。また、注目する二つの変数の両方に関係する別の要因である「交絡因子」が存在すると、二つの変数の関係を正しく解釈しにくくなる。このような複雑さがあるため、観察データの一部だけを取り出して単純に比較すると、現実の事象を十分に捉えられない場合がある。観察研究は、実験できない多くの現実的課題を扱うために重要な研究方法である一方、そのデータを解釈する際には、複数の変数やデータが得られた過程を意識し、慎重に検討する必要があることを理解する。
④
観察研究における多変量解析の役割
観察研究で得られる複雑なデータから、どのように現実の事象を理解すればよいだろうか。多変量解析は、複数の変数を同時に扱い、データに含まれる構造や関連を整理するための有用な考え方と手法を提供するものである。例えば、似た観測をまとめる、複数の変数を少数の軸へ要約する、観測変数に共通する構造を考える、一つの目的変数と複数の説明変数との関係をモデル化するといった異なるタスクの実行によって、同じデータを別の視点から構造化できる。しかし、結果は使用した変数、前処理、モデル、仮定、データの質などさまざまな条件に依存するため、多変量解析を適用すれば、妥当な解釈や因果関係が自動的に得られるわけではない。本細目では、多変量解析の限界を認識しながらも、実験が難しい社会・環境課題の観察データから構造や関連を見いだし、事象を解釈するための実用的な道具として、多変量解析が役立つことを理解する。
キーワード
① 因果関係 ② 相関関係 ③ 実験研究 ④ 観察研究 ⑤ ランダム化比較試験(RCT)
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
3
[教師なし]クラスター分析1_概要
科目の中での位置付け
第1回では多変量解析の全体像とデータ・変数の基本概念を、第2回では観察データの複雑さと、多変量解析が実際の事象を理解するうえで果たす役割を学んだ。第3回から第9回では、目的変数を設定せずにデータの構造を探索・要約する手法を学ぶ。これらは、機械学習の整理では主に「教師なし学習」に対応する。第3~5回は、その最初の単元としてクラスター分析を扱う。本コマでは、クラスター分析の考え方に入る前に、距離と次元の概念を理解する。まず、クラスター分析は似たもの同士をグループ化する手法であることをおさえたうえで、私たち人間にとっての「似ている」という感覚を、アルゴリズムは特徴量に基づく距離によって捉え、距離が近いほど似ていると判断していることを学ぶ。さらに、グループ化するときの観点は、分析では変数や特徴量として表され、考慮する観点を増やすことは、データを表す次元数を増やすことに対応することを理解する。ここで学ぶ距離と次元の考え方は、第4回で学ぶk-meansなどの非階層的クラスタリング、第5回で学ぶ階層的クラスタリングやデンドログラムを理解するための基盤となるものであり、後に学ぶ主成分分析や回帰分析を理解するうえでも重要となる。
【コマ主題細目①~⑤】
コマ用オリジナル配布資料
コマ主題細目
① クラスター分析とは ② “似ている“とは距離が近いこと ③ 変数は判断の観点 ④ 観点の数は次元の数 ⑤ クラスター分析の種類
細目レベル
①
クラスター分析とは
「クラスター」とは、ぶどうのような「房」を表す言葉である。クラスター分析とは、データを「似ているもの同士」のまとまりに分け、データの中にどのような構造やパターンがあるかを捉えるための手法である。例えば、多数の地域を環境特性の似た地域ごとにまとめたり、多数の対象を特徴の似たグループに整理したりすることで、そのままでは見えにくいデータの構造を把握しやすくなる。ここでは、クラスター分析ではあらかじめ正解となるグループを与えるのではなく、対象がもつ一つまたは複数の特徴に基づいてグループを見いだしていくことだという点を理解する。また、グループ化を通じて複雑なデータを整理し、対象の特徴やパターンを理解しやすくすることが、クラスター分析の重要な役割であることを、身近なグループ化の例を見ながら理解する。
②
「似ている」とは距離が近いこと
クラスター分析で「似たもの同士」をグループ化するためには、「似ている」をアルゴリズムが扱える形で表す必要がある。人は形、性格、体格などを見て直感的に「似ている」と判断できるが、アルゴリズムはそのような感覚をそのまま扱うことはできない。そこで、対象の特徴を数値として表し、それらの違いを「距離」として計算する。ここでは、まず最も直感的なユークリッド距離を例として、距離が近いほど特徴が似ており、距離が遠いほど異なるとみなす考え方を理解する。ただし、「似ている」の表し方は一つではなく、用いる特徴や距離尺度によって結果が変わり得ることにも触れ、距離は類似性を定量化するための一つの方法であることを理解する。
③
変数(特徴量)は「似ている」を判断する観点
私たちが二つの対象を「似ている」と判断するときには、必ず何らかの観点に注目している。例えば、人を体格で比べる場合には身長や体重が観点となり、国や地域を比べる場合には気温、降水量、人口、土地利用などが観点となり得る。分析では、このような観点を変数として表し、アルゴリズムが距離を計算する際には特徴量として用いる。ここでは、人間にとっての「判断の観点」と、アルゴリズムが「似ている」を判断するために用いる変数・特徴量とを対応させて考える。どの変数を使うかが変われば、「似ている」の意味や得られるグループも変わり得る。そのため、クラスター分析では、分析目的に合った変数を選ぶことが重要であり、変数の選択は、分析者が対象をどのような観点でグループ化したいかを選択することであることを理解する。
④
観点の数は次元の数
グループ化の際に用いる観点が一つであれば、データは一つの軸上で表すことができ、これは1次元のデータと考えられる。身長と体重の二つを用いれば2次元、さらに年齢を加えれば3次元となる。このように、ここでは一つの変数を一つの観点として扱うとき、考慮する変数の数がデータを表す空間の次元数に対応することを理解する。2次元や3次元であれば点同士の距離を図としてイメージできるが、4次元以上になると、人間にはその空間を直接イメージすることが難しい。それでも、アルゴリズムは各変数の値を用いて距離を計算できる。1次元、2次元、3次元、さらにn次元へと段階的に考えることで、多変量データを「多次元空間にある点」として捉える感覚を身につける。この考え方は、クラスター分析だけでなく、後に学ぶ主成分分析などを理解する基盤にもなる。
⑤
クラスター分析の種類
クラスター分析にはさまざまな方法があるが、本科目では大きく「非階層的クラスタリング」と「階層的クラスタリング」に分けて整理する。非階層的クラスタリングは、階層構造を作る手順をもたず、データを直接いくつかのクラスターに分ける方法であり、k-meansなどがその代表例である。一方、階層的クラスタリングは、対象間やクラスター間の類似性・距離をもとに、似たものを段階的にまとめたり、大きなまとまりを段階的に分けたりして階層構造を作る方法である。ここでは両者の考え方の違いを概観し、同じ「グループ化」というタスクでも、それを実現するアルゴリズムには複数の選択肢があることを理解する。詳細な機構や実装については、第4回で非階層的クラスタリング、第5回で階層的クラスタリングを学ぶため、本細目ではクラスター分析の全体像を理解する。
キーワード
① クラスター分析 ② 距離 ③ 次元 ④ 非階層的クラスタリング ⑤ 階層的クラスタリング
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
4
[教師なし]クラスター分析2_非階層的クラスタリング
科目の中での位置付け
第3回では、教師なし学習としてのクラスタリングの目的、距離と次元、クラスタリング手法の種類や考え方を学んだ。第4回は、階層構造を作らず、データを直接クラスターに分ける非階層的クラスタリングについて学習する。代表的な手法であるk-meansを中心に、クラスター数kの指定、初期セントロイドの配置、データ点の割り当て、セントロイドの更新といったアルゴリズムの一連の過程を、デモプログラムや体験を通して理解する。次に、R言語で分析を実装し、結果の読み取り方法を学ぶ。同時に、k-meansは初期値、外れ値、変数の尺度、クラスターの形状などに影響されること、DBSCANなどの別の手法では、必要となるパラメータや捉えられるデータ構造が異なることを学ぶ。また、プログラムを実行して結果を得ることと、データや目的に合った分析を設計し、その結果を適切に解釈することは同じではないという点についても理解する。
【コマ主題細目①~④】
コマ用オリジナル配布資料
コマ主題細目
① 非階層的クラスタリング ② 非階層的クラスタリングにできること ③ k-meansの機構 ④ 非階層的クラスタリングの実装と解釈
細目レベル
①
非階層的クラスタリング
第3回で概観したクラスタリング手法のうち、ここでは階層構造を作らずに一つの分割を求める「非階層的クラスタリング」を学ぶ。非階層的クラスタリングには、k-meansやk-medoidsのような分割手法、DBSCANのような密度ベース手法などがあり、必要なパラメータや得意とするデータ構造は手法によって異なる。k-meansは最もシンプルで多用されている非階層的クラスタリング手法の一つである。クラスター数kを事前に指定し、ユークリッド距離に基づいてコンパクトでおおむね球状のクラスターを求める。k-meansでは、非球形のクラスター、外れ値を含むデータ、初期値の設定などによって、適切な結果が得られない場合もある。一方、DBSCANはkを指定せず、近傍の密度に基づいて非球形のクラスターを見いだし、孤立した点をノイズとして扱うことができる。ここでは、非階層的クラスタリングを実現するアルゴリズムにもさまざまな種類があり、各アルゴリズムの前提と特性を理解して選択することが重要であることを理解する。
②
非階層的クラスタリングにできること
非階層的クラスタリングを用いるとどのようなことが可能になるのだろうか。ここでは、顧客セグメンテーション、画像の領域分割、観測地点の類型化などの事例を通じて、対象を類似したグループに整理し、データの構造やパターンを探索する役割を理解する。クラスタリングは教師なし学習であり、得られたクラスターが客観的に存在する「真の集団」であることを保証するものではない。また、クラスタリング結果だけから因果関係を解釈することはできない。ノイズや外れ値を識別できるか、また大規模データを高速に処理できるかはアルゴリズムによって異なる。例えばDBSCANはノイズ点を識別でき、k-meansは計算効率に優れることが多い。このため、目的とデータに応じて手法を選び、結果の安定性と解釈可能性を確認することが重要である。
③
k-meansの機構
ここではWebのデモツールを使って、k-meansの機構を視覚的に理解する。次に、色紙を持った各自が観測点となり、最も近いセントロイドに対応する色のグループへ移る体を使ったシミュレーションを通して、k-meansの動きを体感する。k-meansでは、まずクラスター数kを決め、k個の初期セントロイドを選ぶ。次に、各データ点を平方ユークリッド距離が最も小さいセントロイドへ割り当て、各クラスターに属するデータ点の平均を新しいセントロイドとする。この「割り当て」と「更新」を、割り当てが変化しなくなるか停止条件を満たすまで繰り返す。目的は、各データ点と所属クラスターのセントロイドとの平方ユークリッド距離の総和、すなわちクラスタ内平方和を小さくすることである。ただし、得られる解は初期値に依存し、常に大域的な最適解が得られるとは限らないため、複数の初期値から計算を繰り返す方法などが用いられることもある。
④
非階層的クラスタリングの実装と解釈
実際に非階層的クラスタリングを使うにはどのようなステップを踏めばよいのだろう。ここでは、R言語を使って「k-means」という非階層的クラスタリング手法を実際に適用することで、その実装を体験する。k-means(k平均法、k-means clustering)は、非階層的クラスタリングの中でも最も一般的なアルゴリズムの一つであり、計算が比較的単純で、大規模なデータセットにも効率的に適用できるという特徴をもつ。最初に教員がRのコードを配布する。次に、各自が配られたコードを実行し、どのような出力結果が得られるかを体験する。そして、教員がコードに含まれる関数とその引数について解説し、どのような指示を与えることによりk-meansの結果が得られるのかを学ぶ。さらに、得られた出力結果の読み取り方、解釈、その際の注意点についても学習する。
キーワード
① 非階層的クラスタリング ② 距離尺度 ③ k-means ④ セントロイド ⑤ 初期値
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。さらに、授業で使ったコード編集するなどして(コードで遊び)、実装に慣れることができれば望ましい。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
5
[教師なし]クラスター分析3_階層的クラスタリング
科目の中での位置付け
第3回では、教師なし学習としてのクラスター分析の全体像と、距離・類似度・次元の考え方を学び、第4回ではk-meansを中心とする非階層的クラスタリングを実装した。第5回はクラスター分析単元のまとめとして、データやクラスターを順次結合または分割し、入れ子状の構造を作る階層的クラスタリングを扱う。凝集型と分割型の考え方、距離尺度、デンドログラムの読み方、最短距離法・最長距離法・群平均法・ウォード法などのクラスタ結合基準を、図とR言語による実装を通じて理解する。また、最終的なクラスター数は自動的に一意に決まるとは限らず、分析目的やドメイン知識などと照らし合わせて、距離尺度、クラスタ結合基準、デンドログラムの切断位置を選択する必要があることも学ぶ。デンドログラムの切断位置についても、資料ではドメイン知識や視覚的判断を踏まえて慎重に決めるとしている。 本コマでは非階層的手法との違いを整理し、同じデータでもアルゴリズムや設定によって結果が変わり得ることを確認する。そして、クラスタリングは多くの変数を用いてグループ化できる便利な手法である一方、どの変数がグループ分けの決め手になっているのかを理解しにくいことを確認し、第6回から学ぶ「次元削減」へつなぐ。
【コマ主題細目①~⑤】
コマ用オリジナル配布資料
コマ主題細目
① 階層的クラスタリング ② 階層的クラスタリングにできること ③ 階層的クラスタリングの機構 ④ クラスター間の類似性の測定 ⑤ 階層的クラスタリングの実装と解釈
細目レベル
①
階層的クラスタリング
第3回で概観したクラスタリング手法のうち、ここでは「階層的クラスタリング」(hierarchical clustering)を学ぶ。階層的クラスタリングは、データまたはクラスターを順次結合・分割して、入れ子状のクラスター構造を構成する方法である。主なアプローチには、各データ点を別々のクラスターとして開始し、似たクラスターを順に結合する「凝集型」と、全データを一つのクラスターとして開始し、順に分割する「分割型」がある。結果は「デンドログラム」で表すことができ、アルゴリズムの実行前に最終的なクラスター数を固定しなくても階層全体を確認できる。ただし、最終的な分割を得る際には、デンドログラムをどの高さで切るかなどの判断が必要である。捉えやすいクラスターの形状や外れ値への感度は、距離尺度やクラスタ結合基準によって異なるため、階層的クラスタリングが常に多様な形状を適切に捉えられるとは限らない。また、階層的クラスタリングは計算コストが高く、データ数が多い場合には適用が難しくなることがある。さらに、凝集型では一度結合したクラスターを後の段階で分割し直さないため、途中の結合が最終的な結果に影響することにも注意が必要である。
②
階層的クラスタリングにできること
階層的クラスタリングを用いると、どのようなことが可能になるのだろうか。ここでは、生物の分類、顧客セグメンテーション、地理空間データの類型化、文書の分類など、さまざまな活用例を紹介しながら、その有用性を理解する。例えば、生物の特徴に基づいて似た種をまとめ、その関係を系統的に整理したり、多数の文書を内容の似たもの同士にまとめ、さらに大きな話題から細かな話題へと階層的な構造を捉えたりすることができる。階層的クラスタリングでは、単に対象をいくつかのグループに分けるだけでなく、「どの対象同士がより似ているのか」「小さなまとまりがどのように大きなまとまりを作っているのか」をデンドログラムとして確認できる。そのため、あらかじめ一つのクラスター数に決めず、目的に応じて異なる細かさでデータのまとまりを捉えられることが、階層的クラスタリングの大きな利点である。
③
階層的クラスタリングの機構
階層的クラスタリングを実現するアルゴリズムの機構について学習する。階層構造を形成する方法には、大きく「凝集型クラスタリング」と「分割型クラスタリング」の二つのアプローチがある。「凝集型クラスタリング」は、いわばボトムアップ型のアプローチである。最初に各データ点をそれぞれ一つのクラスターとして扱い、類似性の高いクラスター同士を順次結合していく。この操作を繰り返すことで、小さなクラスターから次第に大きなクラスターが形成され、最終的には全てのデータが一つのクラスターに統合される。一方、「分割型クラスタリング」はトップダウン型のアプローチであり、最初に全てのデータを一つのクラスターとして扱い、それを順次小さなクラスターへ分割していく。どちらの方法でも、どのデータやクラスターが互いに似ているのかを判断する必要がある。特に凝集型では、データ点間の距離をどのように測るか、さらにクラスター同士の距離をどのように定めるかによって、結合される順序や最終的な階層構造が変わる。そこで次の細目では、類似性や非類似性をどのように数値として表し、結合するクラスターを決めるのかを学ぶ。
④
クラスター間の類似性の測定
凝集型の階層的クラスタリングでは、似ているクラスターを順次結合していくため、「どのクラスター同士が似ているのか」を数値に基づいて判断する必要がある。まず、データ点同士の類似性や異なり具合を表すために「距離尺度」を定める。ユークリッド距離などを用いる場合、距離が小さいほど似ており、距離が大きいほど異なると考える。次に、複数のデータ点を含む二つのクラスター間の距離をどのように定めるかという「クラスタ結合基準」を選択する。代表的な方法には、最短距離法、最長距離法、群平均法、ウォード法などがある。最短距離法は二つのクラスター間で最も近い点同士の距離、最長距離法は最も遠い点同士の距離、群平均法はクラスター間の全ての点の組合せの平均距離を基準とする。ウォード法は、二つのクラスターを結合したときのクラスタ内のばらつきの増加が小さくなるように結合する方法である。距離尺度とクラスタ結合基準は別の選択であり、その組合せによって得られる階層構造やクラスターの形が変わることを理解する。
⑤
階層的クラスタリングの実装と解釈
③と④で学んだ考え方を、実際のデータにどのように適用すればよいのだろうか。ここでは、R言語を使って凝集型の階層的クラスタリングを実行し、分析の流れと結果の解釈を学ぶ。まず、分析に用いる距離尺度とクラスタ結合基準を選び、データ点間の距離を計算する。次に、その基準に基づいて近いデータ点またはクラスター同士を順次結合し、その過程を「デンドログラム」として可視化する。デンドログラムでは、観測対象がどのような順序でまとまりを形成していくのか、また、どの程度の距離や結合基準の値でクラスターが結合されたのかを視覚的に確認できる。最終的なクラスター数は自動的に一つの正解として決まるわけではなく、デンドログラムをどの高さで切るかを、分析目的やドメイン知識、外部情報などと照らし合わせて検討する必要がある。授業では一連のRコードを実行し、距離尺度やクラスタ結合基準を変えると、デンドログラムや得られるクラスターがどのように変化するかを比較する。これにより、単にRから出力を得るだけでなく、分析者自身が設定を選択し、その結果を適切に解釈することの重要性を理解する。
キーワード
① 階層的クラスタリング ② 凝集型クラスタリング ③ 分割型クラスタリング ④ デンドログラム ⑤ クラスタ結合基準・距離尺度
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。さらに、授業で使ったコード編集するなどして(コードで遊び)、実装に慣れることができれば望ましい。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
6
[教師なし]主成分分析1_実践
科目の中での位置付け
第3回から第5回では、教師なし学習として、対象を似たもの同士にグループ化する「クラスタリング」を学んだ。第6回から第7回は、多数の変数を少数の新しい軸で要約する「主成分分析」へ進む。本コマは主成分分析の導入として、点群、軸、射影、分散などを図で確認しながら、「データのばらつきをできるだけ保ちながら、少数の重要な軸に要約する」という目的を直感的に理解する。さらに、R言語で主成分分析を実行し、主成分得点、主成分負荷量、寄与率、スクリープロット、バイプロットなどの基本的な出力を確認する。標準化、外れ値、主成分数の選択、主成分の意味づけにおける注意点も扱い、数学的に得られた軸が、研究上重要な意味を自動的にもつわけではないことを学ぶ。本コマでは数式は最小限に抑え、図と実装を通して主成分分析のビジュアルイメージを形成し、第7回でその仕組みを理解するための土台をつくる。
【コマ主題細目①~④】
コマ用オリジナル配布資料
コマ主題細目
① 主成分分析とは ② 主成分分析にできること ③ 主成分分析の実装(R言語) ④ 主成分分析を行う上での注意点
細目レベル
①
主成分分析とは
主成分分析(PCA: Principal Component Analysis)とはなんだろう。ここでは、主成分分析を用いる目的と概略を学習する。主成分分析は、元の変数の線形結合として互いに直交する新しい軸を作り、データの全分散をできるだけ多く捉える順に並べる線形次元削減手法である。第一主成分は最も分散が大きい方向、第二主成分以降は既に得た主成分と直交しながら残りの分散を最大化する方向として定められる。少数の主成分を用いることで、元の変数数より少ない次元でデータの主要な変動を表現できる。ただし、PCAが保持するのは分散の大きい方向であり、分散が大きいことが研究上の重要性を必ず意味するわけではない。ここでは、図や応用事例を用いて主成分分析の概要を理解する。
②
主成分分析にできること
主成分分析を用いるとどのようなことが可能になるのだろう。ここでは、具体的な研究課題と分析結果を通じて、環境分野における応用可能性を考える。主成分分析は、高次元データを少数の主成分で要約し、可視化、変数間の線形な関連構造の把握、後続分析の入力変数の削減、計算量や保存に必要なデータ量の削減などに用いられる。多数の変数から少数の主成分を選ぶと元の情報の一部は失われるため、寄与率や累積寄与率を確認し、何を残し何を失うかを判断する必要がある。低分散方向を除くことでノイズが減る場合や、次元削減が後続モデルの過剰適合を緩和する場合もあるが、PCAを行えば自動的にノイズが除去され、過剰適合が防止されるわけではない。また、主成分が数学的にデータをよく要約していても、その意味づけには分野の知識が必要である。
③
主成分分析の実装(R言語)
実際に主成分分析を使うにはどのようなステップを踏めばよいのだろう。ここでは、R言語を使って分析を実行しながら、その流れを理解する。最初に教員が主成分分析に必要な一連のコードとサンプルデータを配布し、学生は自身のPCでコードを実行して主成分得点、主成分負荷量、寄与率、スクリープロット、バイプロット等の出力を得る。次に、教員がコード内の関数と主要な引数、中心化・標準化の設定、出力された数値と図の対応関係を解説する。学生は、変数の尺度が異なる場合に標準化の有無で結果が変わることや、採用する主成分数によって保持される情報量が変わることも比較する。コードを暗記することではなく、どの入力からどの出力が得られ、その出力をどのように読み取るのかを理解することを重視し、将来自分で資料を調べながらPCAを実行するための足掛かりを得る。
④
主成分分析を行う上での注意点
主成分分析を行ううえでどのような点に注意を払う必要があるのだろう。PCAは元の変数の線形結合を用いる線形手法であるため、曲線や多様体に沿うような強い非線形構造を少数の主成分で十分に表現できない場合がある。ただし、元の変数同士があらかじめ強い線形関係にあることを適用条件として要求する手法ではない。共分散行列に基づくPCAと、変数を標準化して相関行列に基づくPCAでは結果が変わるため、単位や分散が異なる変数を扱う場合には標準化の必要性を検討する。標準化を行わない場合には、分散の大きい変数が主成分に強く影響することがある。また、PCAは外れ値の影響を受けやすく、外れ値によって主成分の方向が大きく変化する場合がある。主成分数の選択には寄与率、累積寄与率、スクリープロット、分析目的などを用い、主成分負荷量や主成分得点の解釈は背景知識に基づいて慎重に行う。
キーワード
① 主成分分析 ② 寄与率 ③ 主成分軸 ④ 直交 ⑤ 次元削減
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。さらに、授業で使ったコード編集するなどして(コードで遊び)、実装に慣れることができれば望ましい。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
7
[教師なし]主成分分析2_理論
科目の中での位置付け
第6回では、教師なし学習のひとつとして主成分分析の概要を学び、R言語による実装と基本的な出力の読み方を学んだ。第7回は、主成分分析がどのように生まれ、どのような考え方で成立しているかを一段深く理解する。中心化・標準化、共分散行列または相関行列、主成分軸、射影、主成分得点、固有値と固有ベクトルの対応を扱うが、固有値計算そのものの習得や数式の暗記は到達目標としない。図を用いて、データの広がりをできるだけ大きく捉える方向を新しい主成分軸として順に選ぶこと、データをその軸へ射影すること、次元を減らすことで、元のデータがもつ変動の一部が失われ、情報損失が生じることを理解する。また、PCAは線形な次元削減法であり、強い非線形構造を十分に表現できない場合があることを確認し、その他の次元削減手法の存在にも触れる。本コマでは数式は最小限にとどめ、インタラクティブな可視化教材などを用いて、主成分分析の仕組みを直感的に理解することを目標とする。
【コマ主題細目①~③】
コマ用オリジナル配布資料
コマ主題細目
① 主成分分析の歴史 ② 主成分分析の機構 ③ その他の次元削減手法
細目レベル
①
主成分分析の歴史
前回(第6回)に学習した主成分分析は、どのような経緯で生まれ、現在の形へ発展してきたのだろうか。ここでは、主成分分析の歴史をたどりながら、その考え方が生まれた背景と、現代社会でどのように活用されているかを学ぶ。主成分分析の起源は、1901年にカール・ピアソンが提案した、多次元データを少数の軸によって表現する考え方にさかのぼる。多数の変数をもつデータを扱うと、そのままではデータ全体の特徴や構造を捉えることが難しくなるため、複雑なデータをより少数の軸で表現するという考え方が発展してきた。その後、ハロルド・ホテリングが1933年に共分散行列を用いて主成分を導出する方法を示し、主成分分析の数学的な枠組みが整えられた。さらに、コンピュータの登場と計算能力の向上によって、多数の変数や観測値を含むデータにも主成分分析を適用しやすくなり、その利用範囲は大きく広がった。現在では、高次元データの要約や可視化に加え、画像圧縮、顔認識、遺伝子データの解析、気候データの解析など、科学・工学・産業におけるさまざまな課題に利用されている。100年以上前に生まれた考え方が、コンピュータとデータサイエンスの発展とともに、現代の高次元データを扱うための基本的な手法の一つとして活用され続けていることを理解する。
②
主成分分析の機構
前回(第6回)に経験したように、R言語を用いれば主成分分析そのものは比較的容易に実行できる。しかし、その内部では何が行われているのだろうか。ここでは、図やインタラクティブな教材を用いて主成分分析の仕組みを直感的に理解する。多くの変数をもつデータは、多次元空間に広がる点の集まりとして考えることができる。主成分分析では、まずデータの中心をそろえ、その点の集まりをどの方向から見るとデータの違いを最もよく捉えられるかを考える。最も大きな広がりを捉える方向が第1主成分であり、それと直交する方向の中から、次に大きな広がりを捉える方向を第2主成分として順に求めていく。各データをこれらの新しい軸に映した位置が「主成分得点」である。この計算の背景では、変数同士がどのように一緒に変動するかをまとめた共分散行列や相関行列を用い、「固有ベクトル」が新しい軸の方向を、「固有値」がその軸で捉えられるデータの広がりの大きさを表している。ここでは、少数の主成分だけを残すことで、多くの変数からなるデータを少ない軸で表現できる一方、次元を減らすことで情報損失が生じることも理解する。
③
その他の次元削減手法
主成分分析は、複数の変数からなるデータを少数の新しい軸で表現する代表的な次元削減手法である。しかし、主成分分析は直線的な軸を用いてデータを要約するため、曲線状に広がるデータなど、複雑な構造を十分に捉えられない場合がある。ここでは、インタラクティブな可視化ツールを用いて、線形な構造をもつ点群ではPCAがデータの特徴をうまく捉えられる一方、U字型やSwiss roll(スイスロール)のような曲がった構造では、直線的な軸だけでは元の構造を十分に表現できないことを視覚的に理解する。さらに、同じデータにPCAと非線形な次元削減手法を適用した結果を比較し、次元削減という同じタスクにも異なる方法があることを確認する。カーネルPCA、t-SNE、自己符号化器などの手法については、数学的な仕組みや実装方法の習得を目的とせず、PCAとは異なる考え方で複雑なデータ構造を低次元に表現する方法が存在することを知り、データの特徴や分析目的に応じて手法を選択する必要があることを理解する。
キーワード
① 主成分軸 ② 射影 ③ 固有値 ④ 固有ベクトル ⑤ 非線形次元削減
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
8
[教師なし]因子分析1_実践
科目の中での位置付け
第6回・第7回では、教師なし学習の一つとして、観測された変数を線形結合し、データの分散を少数の主成分で要約する「主成分分析」を学んだ。第8回から第9回は、観測変数間にみられる共通の変動を、少数の潜在因子によって説明する「因子分析」を扱う。主成分分析と因子分析は、どちらも多数の変数を扱うため似た手法に見えるが、主成分分析が観測変数を少数の新しい軸に要約することを目的とするのに対し、因子分析は観測変数が共通して変動する背後にどのような潜在的な構造があるかを捉えることを目的とする。因子分析には探索的因子分析と確認的因子分析などのアプローチがあるが、本科目では、あらかじめ因子構造を定めず、データから共通する構造を探索する「探索的因子分析(EFA)」を中心に学習する。本コマでは、まず主成分分析との違いを確認しながら探索的因子分析の目的を理解し、共通因子・独自因子(個別因子)・因子負荷量・共通性などの基本概念を学ぶ。さらに、R言語による実装を通じて、因子数の検討、因子の抽出、因子軸の回転、出力の読み取り、因子の命名と解釈という一連の分析過程を体験する。また、データから推定された因子を、現実に実在する原因や実体であるとそのままみなしてよいわけではないことも確認する。続く第9回では、第8回で得た出力を振り返りながら、因子分析の仕組み、共通性、因子軸の回転、結果の解釈について理解を深める。
【コマ主題細目①~④】
コマ用オリジナル配布資料
コマ主題細目
① 因子分析とは―主成分分析との違い ② 因子分析にできること ③ 因子分析の実装(R言語) ④ 因子分析を行う上での注意点
細目レベル
①
因子分析とは―主成分分析との違い
因子分析とはなんだろう。ここでは、第6回・第7回で学んだ主成分分析と比較しながら、因子分析を用いる目的と概略を理解する。主成分分析は、観測された複数の変数を線形結合し、データがもつ分散を少数の新しい軸に要約する手法である。一方、因子分析は、複数の観測変数が共通して変動する背後に、観測されない少数の共通因子があると考え、観測変数間の共分散や相関を、共通因子と各変数に固有の成分によって説明する潜在変数モデルである。したがって、主成分が観測された変数から計算される新しい軸であるのに対し、因子分析の因子は、観測変数間の共通構造を説明するために統計モデルによって推定される潜在変数である。因子分析には、データから因子構造を探る探索的因子分析(EFA)と、あらかじめ想定した因子構造がデータに適合するかを検討する確認的因子分析(CFA)などがある。本科目では、データから共通する構造を探索する「探索的因子分析(EFA)」を中心に学習する。
②
因子分析にできること
因子分析を用いると何ができるのだろうか。ここでは、アンケート項目や複数の環境指標などの活用事例を見ながら、観測変数間に共通する変動を少数の潜在因子によって説明するという因子分析の役割を理解する。例えば、複数の質問項目が似た変動を示す場合、それらの共通する変動の背後に潜在因子を仮定し、因子負荷量を手掛かりに「これらの項目にはどのような共通性があるのか」を考えることができる。因子分析は、心理学や社会科学における意識や特性の把握だけでなく、市場調査、生物統計学、環境データの解析など、さまざまな分野で複数の観測変数の背後にある共通構造を捉えるために利用される。ただし、統計的に抽出された因子が実在する原因や唯一の正しい構成概念を意味するわけではなく、項目内容やドメイン知識と照らして解釈する必要がある。また、目的、項目設計、標本の大きさや構成、因子数、抽出法、回転法などによって結果が変わることもある。本細目では、因子分析が何に役立つか、どのような問いに適用することができるのかを事例から考える。
③
因子分析の実装(R言語)
実際に探索的因子分析を使うには、どのような手順を踏めばよいのだろう。ここでは、R言語を使って分析を実行しながら、その一連の工程を体験する。まずデータを確認し、因子数を検討したうえで、因子の抽出方法と回転方法を設定して因子分析を実行する。次に、因子負荷量、共通性、因子得点などの出力や図を確認し、どの観測変数がどの因子と強く関連しているのかを読み取りながら、因子の意味を考える。最初に教員が配布したコードを学生自身のPCで実行し、結果や図を得た後、コードに含まれる関数と主要な引数、出力との対応関係を確認する。探索的因子分析では因子数があらかじめ決まっているわけではないため、スクリープロットや並行分析などを手掛かりに因子数を検討する方法も体験する。ここでは、コードを暗記することではなく、分析の各段階で何を判断し、得られた出力をどのように読み取るのかを理解することを重視する。これにより、将来自分で資料を調べながら探索的因子分析を実行し、その結果を解釈するための足掛かりを得る。
④
因子分析を行う上での注意点
因子分析を行ううえで、どのような点に注意を払う必要があるのだろうか。まず、分析対象とする変数の間に共通する潜在構造を想定できるか、変数間に一定の相関が存在するか、欠測や外れ値がどのように扱われているかを確認する必要がある。標本数についても単一の機械的な基準だけで判断するのではなく、因子数、各因子に関係する項目数、因子負荷量や共通性の大きさ、推定法などを併せて考える。因子数は一意に自動決定されるものではなく、少なすぎれば重要な構造を捉えられず、多すぎれば解釈が複雑になるため、スクリープロット、並行分析、ドメイン知識に基づく解釈可能性など、複数の情報を用いて検討する。また、抽出法や回転法によって因子負荷量の見え方が変わり、因子の命名にも分析者の判断が含まれる。そのため、出力された因子に都合のよい名前を付けたり、統計的に得られた因子をそのまま現実に存在する原因や実体とみなしたりせず、用いた因子数、抽出法、回転法などの分析条件を明示し、項目内容やドメイン知識と照らして慎重に解釈する姿勢を身につける。
キーワード
① 因子分析 ② 探索的因子分析(EFA) ③ 共通因子 ④ 因子負荷量 ⑤ 共通性
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。さらに、授業で使ったコード編集するなどして(コードで遊び)、実装に慣れることができれば望ましい。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
9
[教師なし]因子分析2_理論
科目の中での位置付け
第8回では、因子分析の目的と基本概念を学び、R言語を用いて探索的因子分析の一連の流れを体験した。第9回は、第8回で得られた因子負荷量、共通性、回転後の結果などが何を意味しているのかを、図や具体例を用いて一段深く理解するコマである。まず、複数の観測変数が似た動きをする背景には、それらに共通して関係する潜在的な因子があると考える、因子分析の基本的な仕組みを確認する。次に、「因子負荷量」は各観測変数と因子との関係の強さを、「共通性」は各変数のばらつきが共通因子によってどの程度説明されているかを表すものとして、第8回で得た出力と対応させながら理解する。また、因子の意味を解釈しやすくするために因子軸を回転する考え方を学び、因子間の相関を仮定しない直交回転と、相関を許容する斜交回転の違いを図から理解する。本コマでは、数式や推定方法の詳細な習得よりも、探索的因子分析の出力が何を意味し、どのような考え方から得られているのかを直感的に理解することを重視する。最後に、第8回で確認した主成分分析との違いを振り返り、分析の目的に応じて手法を選ぶことの重要性を確認する。第10回からは目的変数を設定する分析へ進むため、これまで扱ってきた教師なし学習との違いも整理する。
【コマ主題細目①~④】
コマ用オリジナル配布資料
コマ主題細目
① 因子分析の歴史 ② 因子分析の機構 ③ 共通性の考え方 ④ 因子軸の回転
細目レベル
①
因子分析とは―主成分分析との違い
因子分析とはなんだろう。ここでは、第6回・第7回で学んだ主成分分析と比較しながら、因子分析を用いる目的と概略を理解する。主成分分析は、観測された複数の変数を線形結合し、データがもつ分散を少数の新しい軸に要約する手法である。一方、因子分析は、複数の観測変数が共通して変動する背後に、観測されない少数の共通因子があると考え、観測変数間の共分散や相関を、共通因子と各変数に固有の成分によって説明する潜在変数モデルである。したがって、主成分が観測された変数から計算される新しい軸であるのに対し、因子分析の因子は、観測変数間の共通構造を説明するために統計モデルによって推定される潜在変数である。因子分析には、データから因子構造を探る探索的因子分析(EFA)と、あらかじめ想定した因子構造がデータに適合するかを検討する確認的因子分析(CFA)などがある。本科目では、データから共通する構造を探索する「探索的因子分析(EFA)」を中心に学習する。本科目では、目的変数を設定せずデータから共通構造を探索するEFAを教師なし学習として扱う。なお、因子分析にはCFAなど、教師なし学習とは異なる目的で用いられる方法もある。
②
因子分析の機構
前回(第8回)に経験したように、R言語を用いれば探索的因子分析そのものは比較的容易に実行できる。しかし、その結果として得られる「因子」とは、どのような考え方から生まれているのだろうか。因子分析では、複数の観測変数が似た動きをする背景には、それらに共通して関係する「共通因子」があると考える。一方、それぞれの変数には、共通因子では説明できない固有の変動や誤差も含まれる。各観測変数と共通因子との関係の強さを表すものが「因子負荷量」であり、因子負荷量を見ることで、どの変数がどの因子と強く関係しているかを考えることができる。ここでは、共通因子から複数の観測変数へ矢印を伸ばした模式図などを用いて、「見えない共通因子によって、観測された変数同士の似た動きを説明する」という因子分析の考え方を直感的に理解する。
③
共通性の考え方
因子分析の結果を解釈するときに重要な指標の一つが「共通性(communality)」である。共通性とは、ある観測変数がもつばらつきのうち、抽出した共通因子によってどの程度説明されているかを表すものである。例えば、共通性が高い変数は、今回抽出した因子によってその変数の特徴が比較的よく捉えられていると考えることができる。一方、共通性が低い場合には、その変数には抽出した因子では捉えられない固有の特徴や誤差が多く含まれている可能性がある。ここでは、共通性を計算する方法そのものを習得するのではなく、第8回で得たRの出力と具体例を使いながら、「この変数は、今回見つけた因子でどのくらいうまく説明できているのか」という視点で共通性を読み取ることを学ぶ。また、因子の抽出方法には複数の方法があり、方法の選択によって結果が変わり得ることについても概略を知る。
④
因子軸の回転
因子分析では、因子を抽出しただけでは、一つの変数が複数の因子と関係し、それぞれの因子が何を意味しているのかを捉えにくい場合がある。そこで、因子の意味を解釈しやすくするために「因子軸の回転」を行う。ここでは、回転前と回転後の因子負荷量や図を比較し、軸の向きを変えることで、どの変数がどの因子と強く関係しているかが見やすくなることを視覚的に理解する。回転には大きく、因子同士が相関しないと考える「直交回転」と、因子同士が相関することを許す「斜交回転」がある。代表例として、直交回転ではバリマックス回転、斜交回転ではオブリミン回転やプロマックス回転を紹介する。個々の回転法の数式や種類を暗記するのではなく、因子同士が関連すると考えることが妥当かどうかという視点から、ドメイン知識や分析目的に応じて回転法を選択する必要があることを理解する。最後に、回転後の因子負荷量をもとに因子の意味を考え、第8回で行った因子の命名が、統計量だけで自動的に決まるものではないことも確認する。
キーワード
① 共通性 ② 因子軸 ③ 直交回転 ④ 斜交回転 ⑤ 因子負荷量
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
10
[教師あり]回帰と分類
科目の中での位置付け
第3回から第9回では、目的変数を設定せずデータの構造を探索・要約する「教師なし学習」の手法を学んだ。第10回からは、目的変数を設定し、説明変数などの入力からその値を予測する「教師あり学習」に入る。本コマでは、教師あり学習を俯瞰し、目的変数が数値の場合の「回帰」と、カテゴリの場合の「分類」という二つの代表的な分析タスクの違いを理解する。目的変数と説明変数(特徴量)の役割、モデル・アルゴリズム・訓練データ・検証データ・テストデータの関係を整理し、回帰と分類に共通するモデル構築の考え方を理解する。第11~14回は回帰を詳しく学ぶが、そこで身につける分析設計やモデル評価の考え方は、将来分類問題を学習・実践する際にも活用できる。本コマは教師あり学習を概観し、回帰の各論へ進むための導入に位置づけられる。
【コマ主題細目①~⑤】
コマ用オリジナル配布資料
コマ主題細目
① 教師あり学習とは ② 目的変数と説明変数 ③ 回帰―数値を予測する ④ 分類―カテゴリを予測する ⑤ 回帰と分類に共通する考え方
細目レベル
①
教師あり学習とは
教師あり学習とはどのような学習なのだろうか。教師あり学習では、各観測について予測したい結果が「目的変数」として与えられ、目的変数と「説明変数」との関係をデータから学習する。目的変数の種類によって、数値を予測する「回帰」と、カテゴリを予測する「分類」という代表的なタスクに分けることができる。直線回帰など、統計学で発展してきた方法も、目的変数を用いてモデルを構築し、未知のデータを予測する場合には、教師あり学習の枠組みで捉えることができる。既に第1回でも、目的変数の有無と種類によって分析手法を整理しており、目的変数が量的な場合と質的な場合では用いられる分析の考え方が異なることを確認している。ここでは、統計学と機械学習の手法名を別々に暗記するのではなく、まず「何を予測したいのか」「目的変数は何か」を明確にし、その目的に適した分析方法を考えることの重要性を理解する。教師あり学習では、訓練データを用いてモデルを構築し、そのモデルを新しいデータへ適用する。そのため、訓練に用いたデータへの当てはまりだけではなく、未知のデータに対してどの程度適切に予測できるかを考える必要がある。
②
目的変数と説明変数
教師あり学習では、予測や説明の対象となる変数を「目的変数」、その値を予測するために用いる変数を「説明変数」と呼ぶ。本科目では、主として「目的変数」「説明変数」という用語を用いる。例えば、ある地点の気温を予測したい場合には気温を目的変数とし、標高、緯度、土地被覆などを説明変数の候補にできる。また、ある生物が生息するか否かを予測したい場合には、生息の有無というカテゴリを目的変数とし、気温、降水量、植生などを説明変数として用いることができる。このように、同じ変数であっても、何を明らかにしたいかによって分析の中での役割は変わる。また、説明変数は必ずしも目的変数の原因を意味せず、目的変数も必ずしも因果的な結果を意味するわけではない。まず分析目的を言葉で明確にし、その目的に対応して目的変数と説明変数を設定することが、モデル構築の出発点であることを理解する。
③
回帰―数値を予測する
教師あり学習における「回帰」は、主として数値として表される目的変数を予測する分析タスクである。例えば、気温、降水量、標高などの情報によって河川水温を予測するときに回帰分析を行う。本細目では、まず分析タスクとしての「回帰=数値を予測する」という基本を身につける。また、同じ回帰タスクでも、線形回帰、回帰木、ランダムフォレスト、勾配ブースティングなど異なる方法を用いることができるため、特定の手法を一つ覚えることよりも、目的やデータの特徴に応じて候補となる方法を比較する考え方が重要であることを理解する。本科目では第11回以降、単回帰分析と重回帰分析をはじめ、多様な回帰モデルや回帰モデルの評価手法などを学習する。なお、「回帰」という語は統計モデルの名称にも使われ、ロジスティック回帰のように名称に「回帰」を含みながら、二値分類などの分類タスクに用いられる方法もある。
④
分類―カテゴリを予測する
教師あり学習における「分類」は、主としてカテゴリとして表される目的変数を予測する分析タスクである。例えば、気温、降水量、植生などの情報によって、ある生物が生息するか否かを予測するときに分類を行う。本細目では、まず分析タスクとしての「分類=カテゴリを予測する」という基本を身につける。同じ分類タスクでも、ロジスティック回帰、判別分析、分類木、ランダムフォレスト、サポートベクターマシンなど異なる方法を用いることができるため、特定の手法を一つ覚えることよりも、目的やデータの特徴に応じて候補となる方法を比較する考え方が重要であることを理解する。分類では、二つのカテゴリから一つを予測する二値分類だけでなく、三つ以上のカテゴリから一つを予測する多クラス分類もある。
⑤
回帰と分類に共通する考え方
回帰と分類は、予測する目的変数の種類は異なるものの、教師あり学習として共通する考え方をもつ。いずれの場合も、まず分析目的を明確にし、目的変数と説明変数を設定したうえで、データを用いてモデルを構築する。また、教師あり学習では、手元にあるすべてのデータを同じ目的で用いるのではなく、モデルを構築するためのデータと、構築したモデルを確認するためのデータに分けて扱う。ここでは、データを訓練データ、検証データ、テストデータなどに分割して扱うという基本的な考え方を学ぶ。本科目では第11回以降、回帰を中心にモデル構築の方法を学習するが、そこで身につける分析目的の設定、目的変数と説明変数の整理、データを分割して扱う考え方は、分類問題を扱う際にも共通して活用できる。したがって、回帰を学ぶことを通して、特定の回帰手法だけでなく、教師あり学習全般に共通する分析の進め方を理解するための基礎を身につける。
キーワード
① 教師あり学習 ② 目的変数 ③ 説明変数 ④ 回帰 ⑤ 分類
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
11
[教師あり]回帰分析1_単回帰分析
科目の中での位置付け
第10回では、教師あり学習を俯瞰し、数値を予測する回帰とカテゴリを予測する分類の違い、目的変数と説明変数、モデル構築とデータ分割に共通する考え方を学んだ。第11回は、本科目で詳しく扱う回帰の最も基本的な形として「単回帰分析」を学ぶ。一つの説明変数と数値の目的変数との直線的な関係を、散布図と回帰直線を用いて理解し、切片、回帰係数、予測値、誤差項、残差、残差平方和の意味を整理する。単回帰モデルでは、目的変数、説明変数、切片、回帰係数、誤差項という要素からモデルを捉えることができる。R言語で単回帰分析を実装し、回帰係数や予測値を読み取るとともに、外れ値、線形性、誤差の独立性、等分散性など、分析を行ううえでの注意点を学ぶ。また、最小二乗法が、観測値と回帰直線による予測値との差である残差に着目し、その二乗和が最も小さくなるように回帰直線を求める方法であることを図から直感的に理解する。数式や計算は最小限にとどめ、目的と変数を言葉で整理することで、モデルが何を表しているかを理解することを重視する。このコマでは、次回以降に学習する重回帰分析や、より柔軟な回帰モデルを理解・比較するための基礎として、直線的なモデルのイメージをつかむ。
【コマ主題細目①~⑤】
コマ用オリジナル配布資料
コマ主題細目
① 単回帰分析とは ② 単回帰分析にできること ③ 単回帰分析の実装(R言語) ④ 単回帰分析の理論 ⑤ 単回帰分析を行ううえでの注意点
細目レベル
①
単回帰分析とは
単回帰分析(simple linear regression)とは、一つの説明変数と一つの数値の目的変数との関係を直線で表す、最も基本的な線形回帰モデルである。説明変数が1単位増えたときに、目的変数の平均的な予測値がどの程度増減するかを「回帰係数(傾き)」で表し、説明変数の値から目的変数を予測することができる。相関係数が二つの変数の線形な関連の強さと方向を対称的に表すのに対し、単回帰分析では目的変数と説明変数の役割を区別し、両者の関係を回帰直線としてモデル化する。ここでは、散布図と回帰直線を用いて、「説明変数が変化すると、目的変数が平均的にどのように変化するのか」という単回帰分析の考え方を直感的に理解する。ただし、回帰係数が表すのは二つの変数の関連であり、説明変数の因果効果を示すとは限らない。また、相関係数だけでは非線形な関係を十分に捉えられない場合があり、回帰係数の解釈には変数の測定単位や分析するデータの範囲も関係することを理解する。
②
単回帰分析にできること
単回帰分析を用いると、どのようなことが可能になるのだろうか。単回帰分析では、一つの説明変数と数値の目的変数との関係を一本の回帰直線で表し、二つの変数の関係を簡潔に把握し、目的変数の値を予測することができる。例えば、ある地域の標高と年平均気温のデータから、標高が高くなるにつれて気温がどの程度変化するかを回帰係数で表したり、標高から年平均気温を予測したりすることができる。また、手の大きさと身長の関係では、手の大きさから身長を予測し、回帰直線の傾きから「手の大きさが1 cm大きくなると、身長が平均してどの程度高くなるか」を捉えることもできる。このように、一つの説明変数との関係が比較的明確で、傾きそのものに関心がある場合には、単回帰分析の単純さが大きな利点となる。さらに、説明変数が一つであるため、散布図、回帰直線、回帰係数、予測値を対応させながら関係を理解しやすく、複雑な回帰モデルを検討する前にデータの基本的な関係を確認する場合にも有用である。本細目では、具体例を通して、単回帰分析が「関係を捉える」「関係を数値で表す」「予測する」という役割をもつことを理解する。
③
単回帰分析の実装(R言語)
実際に単回帰分析を使うには、どのような手順で分析を進めればよいのだろうか。ここでは、R言語を用いて単回帰分析を実行しながら、その一連の流れを理解する。具体的には、1)データの準備と目的の設定、2)単回帰分析の実行、3)出力結果の読み取り、4)得られた結果の解釈、5)得られた単回帰モデルによる予測、という順に分析を進める。最初に、教員が配布した一連のコードを学生自身のPCで実行し、結果や図を得る。次に、1)~5)の各段階と対応させながら、出力された結果や図の意味、コードに含まれる関数や主要な引数について理解する。さらに、回帰係数や予測値を実際に読み取り、入力したデータからどのように回帰モデルが構築され、どのような結果が得られるのかを確認する。コードを暗記することよりも、分析の進め方、出力結果の表現や読みとり方を理解し、自分で単回帰分析を実行するための基本を理解してほしい。
④
単回帰分析の理論
細目③で体験したように、R言語を用いれば単回帰分析そのものは比較的容易に実行できる。しかし、その内部ではどのように回帰直線が求められているのだろうか。単回帰モデルでは、目的変数
Y
をY = β
0
+ β
1
X + εと表す。ここで、β
0
は「切片」であり、説明変数
X
= 0 のときの目的変数の平均的な値を表す。β
1
は「回帰係数(傾き)」であり、
X
が1単位増えたときに、目的変数の平均的な値がどの程度変化するかを表す。εは、回帰直線では説明できないばらつきを表す「誤差項」である。誤差項そのものは観測できず、実際の観測値とモデルによる予測値との差として計算される値を「残差」と呼ぶため、両者を区別して理解する。回帰直線を求める代表的な方法である「最小二乗法」では、各観測値と予測値との差である残差を二乗し、その合計が最も小さくなるように切片と傾きを推定する。このとき最小にするのは、点から直線までの垂直距離ではなく、目的変数方向の差である。これは、データのばらつきを最もよく捉える軸を求める主成分分析とは重要な違いである。ここでは図を用いて、切片、傾き、誤差項、残差、残差平方和の意味と、一本の回帰直線がどのように定められるのかを直感的に理解する。
⑤
単回帰分析を行ううえでの注意点
単回帰分析を行ううえでは、外れ値、線形性、誤差の独立性、等分散性などに注意する必要がある。外れ値や説明変数が他の観測から大きく離れたデータは、回帰直線の傾きや切片に大きな影響を与える場合があるため、散布図や残差などを確認する。線形性については、説明変数と目的変数の平均的な関係が分析する範囲でおおむね直線として表せるかを確認し、曲線的な関係がみられる場合には、単回帰モデルだけでは十分に関係を捉えられない可能性がある。等分散性とは、説明変数の値によって誤差のばらつきが大きく変化しないという考え方であり、残差プロットなどから確認する。誤差の独立性とは、異なる観測の誤差同士に統計的な依存がないことを意味し、「変数同士が互いに影響しない」という意味ではない。時系列データ、空間データ、同じ個体を繰り返し測定したデータなどでは、観測間に依存関係が生じる可能性があることに注意する。また、観測した説明変数の範囲を大きく超えて予測する「外挿」は、同じ直線的な関係が範囲外でも続く保証がないため慎重に行う必要がある。さらに、回帰係数は二つの変数の関連を表すものであり、説明変数の因果効果を表しているとは限らない。また、回帰係数の値は変数の測定単位によっても変わるため、単位に注意して解釈することも重要である。
キーワード
① 単回帰分析 ② 最小二乗法 ③ 回帰係数 ④ 切片 ⑤ 残差
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。さらに、授業で使ったコード編集するなどして(コードで遊び)、実装に慣れることができれば望ましい。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
12
[教師あり]回帰分析2_重回帰分析
科目の中での位置付け
第11回では、教師あり学習の回帰タスクについて、一つの説明変数を用いる単回帰分析を学び、回帰直線、最小二乗法、残差、回帰係数の意味を整理した。第12回は、その考え方を二つ以上の説明変数へ拡張する「重回帰分析」を扱う。複数の説明変数を同時にモデルへ入れることで、複数の情報を用いて目的変数を予測したり、モデルに含めた他の説明変数を一定としたときの各説明変数と目的変数との関係を捉えたりできることを理解する。R言語による実装を通して回帰係数や予測値を読み取り、説明変数が二つの場合には回帰直線が回帰平面へ、さらに説明変数が増えると高次元の超平面へ拡張されることを図から理解する。また、単回帰分析でも扱った外れ値、線形性、誤差の独立性、等分散性などに加え、複数の説明変数を扱うことで生じる多重共線性や、説明変数を増やしすぎることによる過剰適合にも注意する。変数を増やせば必ずよいモデルになるわけではないことを理解し、第13回でさまざまな回帰モデルを比較するための基準となる線形モデルとして、重回帰分析の基本的な考え方を身につける。
【コマ主題細目①~⑤】
コマ用オリジナル配布資料
コマ主題細目
① 重回帰分析とは ② 重回帰分析にできること ③ 重回帰分析の実装(R言語) ④ 重回帰分析の理論 ⑤ 重回帰分析を行ううえでの注意点
細目レベル
①
重回帰分析とは
重回帰分析(multiple linear regression)とは、単回帰分析を拡張し、二つ以上の説明変数を同時に用いて数値の目的変数との関係を表す線形回帰モデルである。単回帰分析では一つの説明変数と目的変数との関係を考えたのに対し、重回帰分析では複数の説明変数を同時に考える。それぞれの回帰係数は、モデルに含まれる他の説明変数を一定としたとき、その説明変数が1単位増えると目的変数の平均的な値がどの程度変化するかを表す。これにより、複数の情報を組み合わせて目的変数を予測したり、他の説明変数を考慮しながら各説明変数と目的変数との関係を捉えたりすることができる。ここでは、単回帰分析の考え方が説明変数を増やすことでどのように重回帰分析へ拡張されるのかを理解する。ただし、他の説明変数をモデル上で一定とした関係が、そのまま因果効果を意味するわけではないことにも注意する。
②
重回帰分析にできること
重回帰分析を用いると、どのようなことが可能になるのだろうか。現実の現象では、一つの結果に複数の要因が関係することが多い。例えば、住宅の家賃には床面積だけでなく、築年数、駅からの距離など複数の要因が関係する。これらを説明変数として同時にモデルへ入れることで、複数の情報を組み合わせて家賃を予測することができる。また、床面積や築年数などをモデル上で同じ条件としたときに、駅からの距離と家賃がどのように関係するかを捉えることもできる。単回帰分析が一つの説明変数との関係を明瞭に捉えるのに適しているのに対し、重回帰分析は、複数の要因が同時に関係する現象を一つのモデルとして表せることに大きな利点がある。本細目では具体的な事例を通して、重回帰分析が「複数の情報を用いて予測する」「他の変数を考慮しながら関係を捉える」という役割をもつことを理解する。
③
重回帰分析の実装(R言語)
重回帰分析の実装は、前回学んだ単回帰分析とどのように異なるのだろうか。ここでは、R言語を用いて重回帰分析を実行しながら、その一連の流れを理解する。具体的には、1)データの準備と目的の設定、2)重回帰分析の実行、3)出力結果の読み取り、4)得られた結果の解釈、5)得られた重回帰モデルによる予測、という順に分析を進める。最初に、教員が配布した一連のコードを学生自身のPCで実行し、結果や図を得る。次に、各段階と対応させながら、出力された回帰係数や予測値、図の意味、コードに含まれる関数や主要な引数について理解する。また、説明変数の組合せを変えたときに、回帰係数や予測結果がどのように変化するかを比較し、どの変数をモデルに含めるかも分析者が考える必要があることを確認する。ここでは、コードを暗記することより、分析の進め方、コード、出力結果のつながりを理解し、自分で重回帰分析を実行して結果を読み取るための流れを身につけることを意識してほしい。
④
重回帰分析の理論
重回帰分析では、単回帰分析のモデルをどのように複数の説明変数へ拡張するのだろうか。重回帰モデルは、Y = β
0
+ β
1
X
1
+ β
2
X
2
+ … + β
p
X
p
+ εと表される。β
0
は「切片」であり、すべての説明変数が0のときの目的変数の平均的な値を表す。β
1
、β
2
、…、β
p
は、それぞれの説明変数に対応する「回帰係数」である。例えば、β
1
は、他の説明変数を一定としたとき、X
1
が1単位増えると目的変数Yの平均的な値がどの程度変化するかを表す。εはモデルでは説明できないばらつきを表す「誤差項」であり、実際の観測値と予測値との差である「残差」とは区別する。単回帰分析と同じように、最小二乗法では、すべての観測について残差の二乗和が最も小さくなるように切片と回帰係数を推定する。説明変数が一つの場合には回帰直線、二つの場合には回帰平面として表すことができる。三つ以上になると図に描くことは難しくなるが、高次元の空間における「超平面」として同じ考え方が拡張される。ここでは数式の計算よりも、回帰直線から回帰平面へ広がる様子を図で確認しながら、単回帰分析の考え方が重回帰分析へどのように拡張されるのかを直感的に理解する。
⑤
重回帰分析を行ううえでの注意点
重回帰分析でも、単回帰分析と同じように、外れ値、線形性、誤差の独立性、等分散性などに注意する必要がある。さらに、複数の説明変数を同時に扱うため、「多重共線性」にも注意する。説明変数同士に強い線形関係があると、個々の回帰係数を安定して推定することが難しくなり、データが少し変わるだけで係数の大きさや符号が変化する場合がある。ここでは、説明変数間の関係を確認し、多重共線性の程度を調べる指標の一つとして「VIF(分散拡大係数)」を学ぶ。また、説明変数を増やせば必ずモデルがよくなるわけではない。標本数に対して説明変数を増やしすぎると、手元のデータに過度に合わせたモデルとなり、未知のデータをうまく予測できなくなる「過剰適合」が生じる可能性がある。そのため、必要な情報とモデルの単純さのバランスを考え、どの変数をモデルに含めるのかを、分析目的やドメイン知識に照らして考えることが重要である。また、重回帰分析で他の説明変数を考慮したとしても、回帰係数をそのまま因果効果と解釈できるわけではないことにも注意する必要がある。
キーワード
① 重回帰分析 ② 回帰係数 ③ 回帰平面 ④ 多重共線性 ⑤ 過剰適合
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。さらに、授業で使ったコード編集するなどして(コードで遊び)、実装に慣れることができれば望ましい。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
13
[教師あり]回帰分析3_さまざまな回帰モデル
科目の中での位置付け
第10回では教師あり学習における回帰と分類を俯瞰し、第11回・第12回では単回帰分析と重回帰分析を通して線形回帰の基本を学んだ。第13回は、数値を予測する「回帰」という同じ分析タスクに対して、さまざまな方法を利用できることを学ぶ。線形回帰は関係を比較的単純な形で表すため解釈がしやすいが、説明変数が多い場合や関係が複雑な場合などには、別の方法が適すことがある。ここでは、正則化回帰(Ridge・Lasso、Elastic Net)、一般化線形モデル、回帰木、ランダムフォレスト、勾配ブースティング、サポートベクター回帰などを取り上げ、それぞれがどのような問題に対応するための方法なのかを概観する。本科目では、統計学で発展してきた方法と機械学習で広く使われる方法を分けて考えるのではなく、同じ回帰タスクに対する異なる選択肢として捉えることを重視する。また、複雑なモデルが常に優れているわけではなく、分析目的、データの特徴、解釈のしやすさ、標本数、計算量などを考えながら方法を選ぶ必要があることも理解する。授業では同じデータに複数の回帰モデルを適用し、予測結果やモデルの特徴を図で比較する。第14回では、ここで扱ったモデルをどのように評価し、比較して選ぶのかを学ぶ。
【コマ主題細目①~⑤】
コマ用オリジナル配布資料
コマ主題細目
① 回帰タスクを実現する多様な手法 ② 正則化回帰 ③ 一般化線形モデル ④ 木を用いた回帰 ⑤ その他の回帰アルゴリズム
細目レベル
①
回帰タスクを実現する多様な手法
第11回・第12回で学んだ線形回帰以外にも、数値を予測する回帰タスクにはさまざまな方法を利用できる。線形回帰は、説明変数と目的変数との関係を比較的単純な形で表すため、回帰係数を解釈しやすいという利点がある。一方、説明変数が多く係数が不安定になりやすい場合には正則化回帰、目的変数がカウントデータなど通常の線形回帰では扱いにくい場合には一般化線形モデル、複雑な非線形関係を捉えたい場合には回帰木、ランダムフォレスト、勾配ブースティング、サポートベクター回帰などが候補になる。ここでは、これらを「統計学」と「機械学習」に分けて考えるのではなく、「何をしたいのか」という回帰タスクと、「どの方法を使うのか」を分けて整理する。同じデータに複数の方法を適用した結果を比較し、データの特徴や分析目的によって適した方法が異なることを理解する。
②
正則化回帰
重回帰分析では、説明変数が多くなったり、説明変数同士が強く関連したりすると、回帰係数が不安定になる場合がある。また、説明変数を増やしすぎると、手元のデータに過度に合わせたモデルになる可能性もある。こうした問題に対応する方法の一つが「正則化回帰」である。正則化回帰では、回帰係数の大きさに制約を加えることで、モデルの複雑さを調整する。代表的な方法として、係数を全体的に縮小する「リッジ回帰」、一部の係数を0にできる「ラッソ回帰」、両者の考え方を組み合わせた「Elastic Net」がある。ここでは数式による導出ではなく、通常の重回帰では自由に決めていた回帰係数に一定の制約を加えることで、モデルを単純な方向へ調整するという考え方を図から理解する。また、正則化の強さによって結果が変わることや、説明変数の尺度をそろえることが重要になる場合があることも確認する。
③
一般化線形モデル
通常の線形回帰では、数値の目的変数を直線や平面によって表してきた。しかし、実際のデータには、個体数や発生件数のようなカウントデータなど、通常の線形回帰では扱いにくい目的変数もある。「一般化線形モデル(Generalized Linear Model, GLM)」は、目的変数の性質に応じた確率分布と「リンク関数」を用いることで、線形モデルの考え方をより広い種類のデータへ拡張する枠組みである。例えば、カウントデータにはポアソン回帰、二値の目的変数にはロジスティック回帰などが用いられる。ここでは、一般化線形モデルを多重共線性や過剰適合を抑えるための正則化回帰とは区別し、目的変数の性質に合わせて線形モデルの考え方を拡張する方法として理解する。また、ロジスティック回帰のように名称に「回帰」を含みながら分類タスクに使われる方法もあることから、手法名だけではなく、何を予測したいのかを確認することの重要性を改めて整理する。
④
木を用いた回帰
線形回帰では、一つの直線や平面によって説明変数と目的変数との関係を表してきた。一方、「回帰木」は、説明変数の値によってデータを順に分け、それぞれのグループに対して目的変数を予測する方法である。一本の直線を当てはめる必要がないため、説明変数と目的変数との関係が曲がっている場合や、変数の組合せによって関係が変わる場合にも対応しやすい。結果を木の形で表せるため、予測の仕組みを視覚的に理解しやすいという特徴もある。一方、単一の回帰木はデータのわずかな違いによって形が変わりやすく、細かく分けすぎると手元のデータに過度に適合することがある。そこで、多数の木を作り、それらの予測を組み合わせる「ランダムフォレスト」や、予測のずれを順に補うように木を追加していく「勾配ブースティング」などの方法が用いられる。ここでは、それぞれの詳細な計算方法ではなく、一本の木から多数の木を組み合わせる方法へ発展してきた考え方を理解する。
⑤
その他の回帰アルゴリズム
回帰タスクには、線形モデルや木を用いたモデル以外にもさまざまな方法がある。「サポートベクター回帰(SVR)」は、一定の誤差を許容しながら予測関数を求め、カーネルと呼ばれる仕組みを用いることで複雑な非線形関係にも対応できる。また、スプラインや多変量適応型回帰スプライン(MARS)を用いることで、直線では十分に表せない関係を滑らかな形で捉えることもできる。さらに、ニューラルネットワークを回帰に利用し、複数の非線形な変換を組み合わせて複雑な関係を学習することもできる。これらの方法は柔軟なモデルを作れる一方、複雑にすれば必ず予測がよくなるわけではなく、必要なデータ量や計算量、結果の解釈のしやすさなども異なる。本科目では、それぞれの数式や実装方法を網羅するのではなく、同じ回帰タスクに対して複数のモデルがあり、それぞれに得意なデータや特徴があることを理解する。第14回では、こうした候補の中からモデルを評価・比較する考え方を学ぶ。
キーワード
① 正則化回帰 ② 一般化線形モデル ③ 回帰木 ④ ランダムフォレスト ⑤ 勾配ブースティング
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
14
[教師あり]回帰分析4_回帰モデルの評価
科目の中での位置付け
第10回では教師あり学習における回帰と分類を俯瞰し、第11回から第13回では、単回帰分析、重回帰分析、正則化回帰、一般化線形モデル、木を用いた回帰など、回帰タスクを実現するさまざまな方法を学んだ。第14回では、構築した回帰モデルをどのように評価し、複数の候補からどのモデルを選ぶのかを学ぶ。モデルの良さは、訓練データへのあてはまりだけでは判断できない。未知のデータをどの程度適切に予測できるか、結果をどの程度理解・説明しやすいかなど、分析目的に応じて異なる観点から評価する必要がある。ここでは、モデルが訓練データに合わせすぎる「過剰適合」と、単純すぎてデータの特徴を十分に捉えられない「過少適合」を学び、モデルの複雑さと予測性能の関係を理解する。さらに、第10回で導入した訓練データ・検証データ・テストデータの役割を改めて整理し、K分割交差検証を用いて未知データへの予測性能を推定する考え方を学ぶ。MAE、MSE、RMSE、R²などの評価指標を用いて第13回で扱った複数の回帰モデルを比較し、「複雑なモデルほどよい」のではなく、目的に合ったモデルを選ぶことが重要であることを理解する。なお、ここで学ぶデータ分割、過剰適合、交差検証、モデル比較の考え方は、分類タスクにも共通するものである。
【コマ主題細目①~⑤】
コマ用オリジナル配布資料
コマ主題細目
① 回帰モデル評価の観点 ② 過剰適合と過少適合 ③ データ分割と交差検証 ④ モデルの比較と選択 ⑤ モデル評価指標
細目レベル
①
回帰モデル評価の観点
できあがった回帰モデルは、何を基準に「よいモデル」と判断すればよいのだろうか。モデルを評価するときには、分析目的に応じて複数の観点を考える必要がある。例えば、訓練データをどの程度よく表しているかという「あてはまり」、まだ見ていないデータをどの程度正確に予測できるかという「予測性能」、新しいデータにも同じように対応できるかという「汎化性能」、モデルの構造や結果をどの程度理解・説明しやすいかという「解釈性」などがある。 線形回帰は回帰係数を解釈しやすい一方、より柔軟なモデルが予測に適する場合もある。しかし、訓練データへのあてはまりがよいモデルや、構造が複雑なモデルが必ずしも優れているわけではない。ここでは、「何のためにモデルを使うのか」によって重視する評価の観点が変わることを理解し、目的に合った基準でモデルを見る考え方を身につける。
②
過剰適合と過少適合
複雑で柔軟なモデルほど良いモデルと言えるのだろうか。モデルを構築するときには、「過剰適合(overfitting)」と「過少適合(underfitting)」の両方に注意する必要がある。過剰適合とは、モデルが訓練データに含まれる偶然のばらつきや、そのデータに特有の特徴まで捉えすぎ、訓練データではよく当てはまる一方、未知のデータでは予測性能が低下する状態である。反対に、過少適合とは、モデルが単純すぎるなどの理由から、データに存在する主要な関係を十分に捉えられていない状態をいう。 説明変数やモデルの複雑さを増やせば訓練データへのあてはまりはよくなることがあるが、それだけで未知データへの予測がよくなるとは限らない。本細目では、単純すぎるモデルと複雑すぎるモデルを図で比較し、データの特徴を捉えながら、未知データにも対応できる適度な複雑さを考えることがモデル構築では重要であると理解する。
③
データ分割と交差検証
モデルが未知のデータにも使えるかどうかを、どのように確かめればよいのだろうか。教師あり学習では、同じデータをモデルの構築と評価の両方にそのまま使うのではなく、目的に応じてデータを分けて扱う。ここでは、第10回で導入した「訓練データ」「検証データ」「テストデータ」の役割を改めて整理する。訓練データはモデルを構築するために使い、検証データは候補となるモデルや設定を比較するために使う。テストデータは、モデルを選んだ後に最終的な予測性能を確認するために用いる。また、限られたデータを有効に使いながらモデルを比較する方法として「交差検証(Cross-Validation)」を学ぶ。代表的なK分割交差検証では、データをK個に分け、そのうちK−1個でモデルを構築し、残りの1個で予測性能を確認する。この役割を入れ替えながらK回繰り返すことで、特定の分割だけに左右されにくい性能の推定を行う。交差検証は「過剰適合を自動的に防ぐ方法」ではなく、未知データに対する性能を見積もり、モデルを比較するための方法である。時間、空間、個体などのまとまりがあるデータでは、単純な無作為分割が適さない場合があることにも触れる。
④
モデルの比較と選択
第13回では、同じ回帰タスクに対して複数のモデルを利用できることを学んだ。では、その中からどのモデルを選べばよいのだろうか。ここでは、線形回帰、正則化回帰、木を用いた回帰など、複数の候補を同じデータに適用し、検証データや交差検証で得られた結果を比較する。モデルを比較するときには、同じ条件、同じデータ分割、同じ評価指標を用いることが重要である。また、予測誤差がわずかに小さいという理由だけで最も複雑なモデルを選ぶのではなく、分析目的、予測性能、解釈のしやすさ、モデルの複雑さなども考える。モデルや設定を比較するために繰り返し使ったデータとは別にテストデータを残しておき、最後に選んだモデルの性能を確認する考え方も学ぶ。本細目では、評価指標の比較だけでなく、目的、評価指標、ドメイン知識などを踏まえてモデルを選択することの重要性を理解する。
⑤
モデル評価指標
回帰モデルの予測結果は、どのような数値で評価できるのだろうか。代表的な指標として、平均絶対誤差(MAE)、平均二乗誤差(MSE)、二乗平均平方根誤差(RMSE)、決定係数(R²)を学ぶ。MAEは予測値と観測値の差の絶対値を平均したもので、予測が平均してどの程度ずれているかを捉えやすい。MSEは誤差を二乗して平均するため、大きな予測誤差の影響を強く受ける。RMSEはMSEの平方根であり、目的変数と同じ単位で誤差の大きさを表せる。 R²は、線形回帰ではモデルが目的変数の変動をどの程度捉えているかを見るために用いられる。ただし、R²が高いことだけで未知データへの予測性能が高いとは判断できない。線形回帰では、説明変数の数を考慮した「調整済みR²」が使われることもある。本細目では、一つの指標だけでモデルの良し悪しを決めるのではなく、何を重視して評価するのかを考え、目的に合った指標を選ぶことを学ぶ。
キーワード
① 予測性能 ② 汎化性 ③ 過剰適合 ④ 交差検証 ⑤ モデル評価指標
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
15
総復習
科目の中での位置付け
第15回では、これまでに学んだ内容を「多変量解析の地図」として整理し直す総復習を行う。第1回・第2回で学んだ多変量解析の役割を出発点に、第3回から第9回では、クラスター分析、主成分分析、因子分析といった教師なし学習を学んだ。第10回では教師あり学習として回帰と分類を整理し、第11回から第14回では回帰を中心に、モデルの構築、さまざまな回帰モデル、モデル評価までを学んだ。本コマでは、クラスター分析はグループ化、主成分分析は次元削減・要約、因子分析は観測変数に共通する潜在構造の把握、回帰は数値の予測や関連の記述、分類はカテゴリの予測というように、「何をしたいのか」という分析タスクと、それを実現する手法やアルゴリズムとの関係を整理する。さらに、社会や環境に関する問いを例に、目的変数の有無、変数の役割、データの特徴を整理し、どの分析タスクが適しているか、どのような手法が候補になるかを考える。このコマでは、将来、多変量解析が必要になった際、自ら調べ、目的に合った方法を選ぶことができるよう「多変量解析の地図」を形作ってほしい。
【コマ主題細目①~⑤】
コマ用オリジナル配布資料
コマ主題細目
① 多変量解析の地図 ② 教師なし学習の整理 ③ 教師あり学習の整理 ④ 分析タスクの特定と手法の選択 ⑤ 多変量解析の応用に向けて
細目レベル
①
多変量解析の地図
本科目の最後に、第1回から学んできた「多変量解析の地図」を、15回の学習内容を使って描き直す。本科目では、それぞれのタスクに対応する代表的な手法として、クラスター分析、主成分分析、因子分析、回帰分析などを学んだ。また、同じ回帰タスクにも線形回帰、正則化回帰、木を用いた回帰など複数の方法があることを確認した。多変量データを分析するときには、最初から「どの手法を使うか」を決めるのではなく、まず「データから何を明らかにしたいのか」を考えることが重要である。例えば、似た対象をまとめたい、たくさんの変数を少数の軸に要約したい、観測変数の背後にある共通構造を捉えたい、数値を予測したい、カテゴリを予測したい、といった目的によって分析タスクは異なる。ここでは、「問い → 分析タスク → 手法・アルゴリズム」というつながりを整理し、新しい手法に出会ったときにも、それが何をするための方法なのかを考えられるようになることを目指す。
②
教師なし学習の整理
第3回から第9回で扱った、「教師なし学習」を整理する。クラスター分析では、対象同士の「似ている」を距離などで表し、似たものをグループにまとめるというタスクを学んだ。主成分分析では、多数の変数を少数の新しい軸に要約し、データの主要な変動を捉える方法を学んだ。因子分析では、観測変数間に共通する変動を少数の潜在因子によって説明するという考え方を学んだ。なお、探索的因子分析は目的変数を設定せずデータから共通構造を探るため、本科目では教師なし学習として整理した。これらの手法は、一見すると「データをまとめる」という点で似ているが、何をまとめたいのか、どのような構造を捉えたいのかが異なる。ここでは、クラスタリング、次元削減、潜在構造の把握というタスクの違いを振り返り、目的に応じて手法を使い分ける考え方を再確認する。
③
教師あり学習の整理
第10回では、目的変数を設定して予測を行う「教師あり学習」として、数値を予測する「回帰」とカテゴリを予測する「分類」という代表的な二つのタスクを学んだ。第11回から第14回では回帰を中心に、一つの説明変数を用いる単回帰分析、複数の説明変数を用いる重回帰分析、正則化回帰や木を用いた回帰などのさまざまなモデル、モデルの評価と選択について学んだ。ここでは、目的変数と説明変数を設定する → モデルを構築する → 未知のデータへの予測を考える → モデルを評価・比較するという教師あり学習の基本的な流れを振り返る。また、回帰で学んだデータ分割、過剰適合、交差検証、モデル比較といった考え方は、分類問題にも共通して利用できることを確認する。一方、回帰と分類では目的変数の種類や用いる評価指標などが異なるため、同じ教師あり学習であってもタスクによって注意を払う点が異なることについても理解を深める。
④
分析タスクの特定と手法の選択
実際の卒業研究や仕事では、「主成分分析を使いたい」「ランダムフォレストを使いたい」と手法名から考えるのではなく、まず何をデータから明らかにしたいのかを整理することが重要である。ここでは、社会や環境に関する複数の例題を用いて、研究上の問いを分析可能な形へ整理する練習を行う。まず、目的変数を設定するのか、設定するなら数値かカテゴリかを考える。次に、どの変数を分析に用いるのか、データはどのような単位や尺度で測られているのか、標本数、欠測、外れ値、時間的・空間的な構造などに問題がないかを確認する。そのうえで、グループ化、次元削減、潜在構造の把握、回帰、分類のどのタスクに近いかを考え、候補となる手法を挙げる。分析方法に常に一つだけの正解があるとは限らないため、目的やデータの特徴、結果の解釈のしやすさ、予測性能などを考えて候補を比較する。「なぜその手法を選ぶのか」を自分の言葉で説明できることを、分析設計の基本として身につける。
⑤
多変量解析の応用に向けて
本科目で扱った手法は、多変量データを分析するための方法の一部にすぎない。この授業だけで、すべての数式を理解し、すべてのアルゴリズムを自力で実装できるようにはならない。本科目が目指すのは、研究や仕事で新しい課題に直面したときに、その問いがどの分析タスクに近いのかを考え、必要な方法を自ら調べながら分析を進められることである。Rなどのソフトウェアを用いれば多くの分析を実行できるが、結果が出たことだけで分析が終わるわけではない。どのようなデータを入力したのか、どのような前処理を行ったのか、モデルにはどのような前提や限界があるのか、出力された値や図は何を意味するのかを確認し、結果を適切に解釈する必要がある。最後に、自分の卒業研究や関心のある課題を一つ取り上げ、研究上の問い、分析タスク、候補となる手法を「多変量解析の地図」に当てはめる。今後、新しい方法を学ぶたびに、この授業で描いた「多変量解析の地図」に書き加え、独自の地図を完成させてほしい。
キーワード
① 多変量解析 ② 多変量解析の地図 ③ タスクの特定 ④ 手法の選択 ⑤ 応用
コマの展開方法
社会人講師
AL
ICT
PowerPoint・Keynote
教科書
コマ用オリジナル配布資料
コマ用プリント配布資料
その他
該当なし
小テスト
「小テスト」については、毎回の授業時間内に、LMS上において当該コマの小テスト(難易度表示付き)を実施します。
復習・予習課題
【復習】
授業中に配布したコマ用オリジナル資料(講義スライド)と、授業の後半で配布した復習プリント、授業の最後に実施した小テストの内容を読み返し、理解できなかった内容について教科書や参考資料などにより復習しておく。さらに、授業で使ったコード編集するなどして(コードで遊び)、実装に慣れることができれば望ましい。
【予習】
該当するコマシラバスのコマ主題細目の細目レベルの内容と、参考文献の範囲を確認し、事前に目を通しておく。分析手法の名前やキーワードをインターネットで検索し、学習内容に関する情報を事前に収集できればなおよい。
履修判定指標
履修指標
履修指標の水準
キーワード
配点
関連回
1. 多変量解析に用いるデータと基本概念の理解
多変量解析を学ぶために必要な基本概念を理解し、データ、観測値、変数の違いを説明できること。量的変数と質的変数、間隔尺度・比率尺度・名義尺度・順序尺度の特徴を区別し、変数の尺度や単位が分析方法や結果の解釈に関係することを説明できること。標準化の目的を理解し、どのような場合に変数の尺度をそろえる必要があるかを考えられること。また、「問い→分析タスク→手法」という本科目の基本的な見取り図を理解していること。
データ、変数、尺度水準、標準化、分析タスク
10
1
2. 観察研究における多変量解析の必要性と役割の理解
社会・環境課題では、介入の効果を知るために実験研究が有力である一方、倫理、費用、時間、実行可能性などから実験できない場合があり、観察研究が重要になることを説明できること。観察データには個体差、地域差、時間変化、測定誤差、欠測、外れ値、交絡などが含まれることを理解し、単純な二変数の関係だけでは事象を十分に捉えられない場合があること、多変量解析は複数の変数から構造や関連を整理するために役立つが、それだけで因果関係を確定できるわけではないことを説明できること。
実験研究、観察研究、RCT、交絡、因果関係、多変量解析
10
1-2
3. クラスター分析の理解
クラスター分析が、あらかじめ正解となるグループを与えず、対象の特徴に基づいて似たもの同士をまとめる分析であることを説明できること。「似ている」を距離や特徴量によって表す考え方を理解し、用いる変数、距離尺度、アルゴリズムによって結果が変わり得ることを説明できること。k-meansのセントロイド、割り当てと更新、初期値の影響を理解し、DBSCANとの考え方の違いを理解できていること。階層的クラスタリングでは、凝集型・分割型、デンドログラム、クラスタ結合基準の基本を理解し、結果を読み取れること。
クラスター分析、距離、k-means、DBSCAN、デンドログラム、クラスタ結合基準
15
3-5
4. 主成分分析の理解
主成分分析が、多数の変数を少数の新しい軸に要約する線形次元削減手法であることを説明できること。主成分軸、射影、主成分得点、主成分負荷量、寄与率の意味を理解し、スクリープロットやバイプロットなどの基本的な出力から、どの程度の情報が少数の主成分に要約されているかを読み取れること。標準化の有無、外れ値、採用する主成分数によって結果や解釈が変わること、PCAは直線的な軸を用いるため強い非線形構造を十分に表現できない場合があることを理解できること。
主成分分析、次元削減、主成分軸、主成分得点、主成分負荷量、寄与率
10
6-7
5. 因子分析の理解
因子分析が、観測変数間に共通する変動を少数の潜在因子によって説明する潜在変数モデルであることを説明できること。探索的因子分析では目的変数を設定せず、データから共通する因子構造を探ることを理解し、主成分分析との目的の違いを説明できること。共通因子、独自成分、因子負荷量、共通性、因子数の意味を理解し、基本的な出力を読み取れること。また、本科目ではEFAを教師なし学習として扱う一方、CFAなど異なる目的で用いられる因子分析もあることを知っていること。得られた因子の命名には項目内容やドメイン知識が必要であり、因子をそのまま実在する原因や実体とみなしてよいわけではないことを理解していること。
因子分析、EFA、共通因子、因子負荷量、共通性
10
8-9
6. 教師あり学習における回帰と分類の理解
教師あり学習では目的変数を設定し、説明変数を用いてその値やカテゴリを予測するモデルを構築することを理解していること。目的変数が数値なら回帰、カテゴリなら分類という基本的な分析タスクの違いを説明できること。同じ分類や回帰のタスクにも複数の手法があるため、手法名と分析タスクを区別して考えられること。分析目的に応じて目的変数と説明変数の役割を設定でき、説明変数が必ずしも原因を意味しないことを理解していること。また、教師あり学習ではデータを訓練用と確認・評価用に分けて扱うという基本的な考え方を説明できること。
教師あり学習、目的変数、説明変数、回帰、分類、データ分割
5
10
7. 単回帰分析・重回帰分析の理解
単回帰分析と重回帰分析について、目的変数と説明変数の関係を線形モデルで表し、関連の記述や数値の予測に用いる方法であることを説明できること。切片、回帰係数、予測値、誤差項、残差、残差平方和、最小二乗法の意味を理解し、単回帰では回帰直線、重回帰では回帰平面や超平面として考え方が拡張されることを説明できること。重回帰の係数は他の説明変数をモデル上一定としたときの関連を表すこと、回帰係数をそのまま因果効果と解釈できないことを理解していること。線形性、外れ値、等分散性、誤差の独立性、多重共線性などの基本的な注意点を理解できること。
単回帰分析、重回帰分析、回帰係数、最小二乗法、残差、多重共線性
15
11-12
8. さまざまな回帰モデルとモデル評価の理解
同じ回帰タスクに対して、線形回帰だけでなく、正則化回帰、一般化線形モデル、回帰木、ランダムフォレスト、勾配ブースティングなど複数の方法が候補になることを理解し、それぞれがどのような問題やデータに対応する方法なのかを概略として説明できること。モデルを評価するときには訓練データへのあてはまりだけでなく、未知データへの予測性能や汎化性能、解釈のしやすさを考える必要があることを理解していること。過剰適合・過少適合、訓練・検証・テストデータ、K分割交差検証、MAE、MSE、RMSE、R²などの意味を説明し、目的に合った評価方法で候補モデルを比較する基本的な考え方を説明できること。
正則化回帰、一般化線形モデル、ランダムフォレスト、勾配ブースティング、過剰適合、交差検証、モデル評価
15
13-14
9. 問いから分析タスクと手法を選ぶ力
与えられた社会・環境上の問いについて、まず何をデータから明らかにしたいのかを整理し、目的変数の有無や種類、説明変数として利用できる変数、データの尺度や特徴を確認したうえで、グループ化、次元削減・要約、潜在構造の把握、回帰、分類のどの分析タスクに近いかを判断できること。そのうえで、候補となる手法を一つ以上挙げ、なぜその手法が候補になるのかを、分析目的、データの特徴、結果の解釈のしやすさ、予測性能などを踏まえて説明できること。「問い→分析タスク→手法」という順序で分析方針を構想できること。
分析目的、分析タスク、手法選択、モデル選択、ドメイン知識
10
1-15
評価方法
期末試験(100%)により行う。
評価基準
評語
学習目標をほぼ完全に達成している・・・・・・・・・・・・・
S (100~90点)
学習目標を相応に達成している・・・・・・・・・・・・・・・
A (89~80点)
学習目標を相応に達成しているが不十分な点がある・・・・・・
B (79~70点)
学習目標の最低限は満たしている・・・・・・・・・・・・・・
C (69~60点)
学習目標の最低限を満たしていない・・・・・・・・・・・・・
D (60点未満)
教科書
教科書は指定しない。資料を配布する。
参考文献
【多変量解析の理論をやさしく学びたい方】
石村光資郎・石村貞夫 著、『改訂版 すぐわかる多変量解析』、東京図書、2,420円(税込)
【多変量解析の理論をしっかり学びたい方】
永田靖・棟近雅彦 著、『多変量解析法入門』、サイエンス社、2,420円(税込)
小西貞則 著、『多変量解析入門―線形から非線形へ』、岩波書店、3,850円(税込)
【お勧め!多変量解析を味わいたい方】
小杉考司 著、『言葉と数式で理解する多変量解析入門』、北大路書房、2,750円(税込)
【多変量解析を観察研究に用いたい方】
今井耕介 著、粕谷祐子・原田勝孝・久保浩樹 訳、『社会科学のためのデータ分析入門(上)』、岩波書店、2,860円(税込)
【多変量解析をR言語で実践したい方】
豊田秀樹 編著、『もうひとつの重回帰分析―予測変数を直交化する方法―』、東京図書、3,080円(税込)
川端一光・岩間徳兼・鈴木雅之 著、『Rによる多変量解析入門―データ分析の実践と理論』、オーム社、3,740円(税込)
【回帰や一般化線形モデルを異なった切り口で学びたい方】
久保拓弥 著、『データ解析のための統計モデリング入門―一般化線形モデル・階層ベイズモデル・MCMC』、岩波書店、4,180円(税込)
【多変量解析の活用事例を知りたい方】
柳井晴夫・岡太彬訓・繁桝算男・高木廣文・岩崎学 編、『多変量解析実例ハンドブック(新装版)』、朝倉書店、25,300円(税込)
実験・実習・教材費
特になし。