順伝播(フォワードプロパゲーション)
入力されたデータが各ニューロンの重みとバイアスによって計算され、次々と後続の層へ伝達されていくプロセスを詳解します。
解説を読む
数十年におよぶ計算機科学の進化を経て、人工知能は単なるアルゴリズムの集合体から、人間の脳の神経回路を模倣した高度な構造体へと変貌を遂げました。本稿では、その基礎となる数学的モデルと歴史的変遷を技術的視点から紐解きます。
詳細を読み進めるフランク・ローゼンブラットによって提案された、単層ニューラルネットワークの原型。これが現代AIの全ての始まりとなりました。
GPT-3に代表される現代のモデルは、1750億個以上の調整可能な重みを持ち、複雑な言語パターンを処理します。
画像認識分野において、深層学習は人間と同等、あるいはそれ以上の精度を特定のタスクで達成しています。
ニューラルネットワークは、入力層、中間層(隠れ層)、そして出力層という階層構造で構成されています。各層には「ニューロン」と呼ばれる計算ユニットが存在し、それらが複雑に結びつくことでデータの特徴を抽出します。かつての線形モデルでは限界があった非線形な問題も、多層構造化(ディープラーニング)によって解決が可能となりました。
マカロックとピッツによる神経細胞の数学的モデル化がスタート地点です。その後、1958年にパーセプトロンが登場し、単純なパターン認識が可能になりました。しかし、この時期のモデルは排他的論理和(XOR)問題を解けないという致命的な欠陥が指摘され、最初の停滞期を迎えます。
バックプロパゲーションの再発見により、多層ネットワークの学習が可能になりました。CNN(畳み込みニューラルネットワーク)の原型であるネオコグニトロンが登場し、手書き文字認識などの実用的な応用が始まりました。
ビッグデータとGPUの並列計算能力が融合し、AlexNetの登場を機に深層学習が主流となりました。Transformerモデルの提案を経て、現在の生成AIブームへと繋がるパラダイムシフトが起きています。