共感で繋がるSNS

人気

関連検索ワード

新着

ワイズ

ワイズ

なんとなく似ているジャケ‥‥スミスの方は作家のカポーティ。カウンシルの方は存じ上げず。でスミスの方の曲。「Hand In Glove」「Stop Me」「Panic」「Girlfriend In A Coma」同様、歌詞のド頭をタイトルにした曲
GRAVITY

The Boy with the Thorn In His Side

ザ・スミス

GRAVITY7
GRAVITY93
ひろ✨

ひろ✨

「AIは意味を理解しているか」、分布的意味論から考える。「分布的意味論(distributional semantics)」の核心は、1950年代の言語学者 Zellig Harris(ゼリグ・ハリス) の有名な言葉に要約されます。

「単語の意味は、他の単語との共起パターンによって決まる」
“You shall know a word by the company it keeps.” — J.R. Firth(ジョン・ルパート・ファース)

つまり、
• 「dog(犬)」という単語がよく「bark(吠える)」「pet(ペット)」などと一緒に出てくるなら、
その共起情報が「dog」という単語の意味を表している、という考え方です。



✅ 2️⃣ どんな研究に使われる?
• コーパス言語学
大量のテキスト(コーパス)から単語の共起を統計的に分析。
• 自然言語処理(NLP)
単語の意味を数値ベクトル(単語ベクトル)にして計算できるようにする。
• 単語埋め込み(Word Embedding)
Word2Vec, GloVe, BERT などの基盤。
• 類似度計算
単語同士の意味の近さを数値で表す。



✅ 3️⃣ 代表例:単語ベクトル

例えば Word2Vec は分布的意味論の代表例です。
• 単語を多次元空間の点(ベクトル)に置き換える。
• 「似た文脈に現れる単語は、似た位置に配置される」。
• 「king - man + woman = queen」のようなベクトル演算が可能。



✅ 4️⃣ 伝統的意味論との違い
• 伝統的意味論
記号論、真理条件、論理学などの視点で、意味を「定義」や「真偽条件」で扱う。
• 分布的意味論
意味を「他の単語とどのように共起するか」という使用パターンで捉える。



✅ 5️⃣ ポイント

観点 内容
コア思想 文脈が意味を決める
方法 共起情報・統計・機械学習
強み 大規模データに強い/意味の連続性を捉えやすい
限界 文脈だけでは捉えきれない意味(例:皮肉や暗喩)は苦手




✅ まとめ

📌 分布的意味論とは?
👉 単語の意味を、その単語が他の単語とどのように一緒に現れるか(分布)から捉える理論。
👉 現代の自然言語処理(NLP)の基盤であり、単語ベクトルや言語モデルの核心技術。



もっと学術寄りに深堀りしたり、具体的な数式やモデルを紹介したりもできます!
必要なら言ってください 📚✨
哲学哲学
GRAVITY1
GRAVITY2
ぼん

ぼん

2万で買った新品値札付きの服がセカストで150円になった、、
そりゃGLOVEの真っ白ミニスカートなんかゴルファー女子しか買わないもんな、、
150円は1300円で売られるはずだし買った人は得しちゃうね、、
GRAVITY
GRAVITY7
ひろ✨

ひろ✨

分布的意味論の歴史
ーーーーー
とても良いテーマです!
「分布的意味論(Distributional Semantics)」 は、
現代の自然言語処理(NLP)とAIの「言葉の扱い方」の根本にある重要な考え方です。
ここで、その歴史と進化の流れ をわかりやすく整理して説明します。



✅ 1️⃣ 分布的意味論とは何か?



まず基本をおさらいすると、

「単語の意味は、その単語がどんな文脈で使われているかによって決まる」

という考え方です。



有名な言葉にすると:

You shall know a word by the company it keeps.
「単語の意味は、それが一緒に現れる単語を見ればわかる」
(J.R. Firth, 1957)



つまり、
🍎「りんご」という単語が「赤い」「果物」「食べる」と一緒に使われるなら、
「りんご」は「赤くて食べられる果物」という意味を文脈の分布から推測できる。





✅ 2️⃣ ルーツ:初期の言語学者たち(1930〜1950年代)



🔹 ① ゾリック・ハリス(Zellig Harris, 1954)
• 分布的仮説(Distributional Hypothesis)の源流を作った。
• 言葉の意味を数理的に扱おうとした構造主義言語学の先駆者。



🔹 ② ジョン・ルパート・ファース(J.R. Firth, 1950年代)
• 有名な「会社(Company)」の例えで有名。
• 単語単体ではなく、共起(Collocation) に注目した。
• 例:「strong tea」と「powerful tea」はどちらも文法的に正しいが、後者は普通言わない。
 → コロケーション(慣用的な単語の組み合わせ)が意味を形づくる。





✅ 3️⃣ 1970〜1980年代:言語学から計算言語学へ



この頃から「意味を計算できないか?」という発想が強まる。
• 1970年代:意味論は哲学的意味論(真理条件意味論)が主流だった。
• しかしコンピュータの発展で、意味を計算で扱う方向へ。

例:
• 初期の情報検索システム(TF-IDFなど)は分布情報を数値化して類似度を測った。





✅ 4️⃣ 1990年代:コーパス言語学と統計的自然言語処理の台頭



コンピュータの性能が上がり、大規模コーパス(膨大なテキストデータ)が使えるようになった。

ここで有名なのが:
• Latent Semantic Analysis (LSA)(1990年頃)
• 大量の文書データから、単語と単語の共起行列を作り、特異値分解(SVD)で次元圧縮して「意味空間」を作る。
• 単語や文書を「意味ベクトル」として扱い、類似性を数値化。



この頃から分布的意味論は計算可能なモデルとして確立していく。





✅ 5️⃣ 2000年代:ベクトル空間モデルの一般化



• LSAの発展形として、Probabilistic LSA(PLSA)、Latent Dirichlet Allocation (LDA) が登場。
• 単語を確率的トピックモデルとして表現し、意味を確率分布で扱うようになった。



同時に検索エンジンやスパムフィルタなど、
実用的な応用がどんどん増えた。





✅ 6️⃣ 2010年代:分布的意味論 × 機械学習の爆発



🔹 Word2Vec(2013, Google)
• ここで分布的意味論は一気に進化。
• Word2Vec は「単語をベクトル化する」ツール。
• 単語の共起パターンをニューラルネットで学習し、**連続的な意味空間(埋め込み空間)**を作った。
• 有名な「king - man + woman = queen」の例:
単語の意味がベクトルの足し算・引き算で扱える。



これ以降、GloVe, fastText, ELMo, BERT などが登場し、
分布的意味論はニューラルネットでさらに強化された。





✅ 7️⃣ 現在:大規模言語モデル(LLM)



ChatGPT のような大規模言語モデル(LLM)は、
分布的意味論の延長線上にあります。
• トークン(単語や文字列)の膨大な共起パターンを学習し、
文脈に応じた意味を確率的に予測する。
• 文脈ごとに意味を動的に変化させる「コンテキスト化埋め込み」が可能に。





✅ 8️⃣ 批判と限界



• サールの中国語の部屋のように、「文脈パターンを真似しているだけで理解はしていない」という批判が根強い。
• 身体性・意図性が欠けている。
• 近年は「分布的意味論+シンボリック意味論(知識グラフ)」を組み合わせる研究が進んでいる。





📌 【まとめ】

時期 主な進展 キーワード
1930〜50年代 言語学者たちが分布仮説を提唱 ハリス、ファース
70〜80年代 計算意味論の萌芽 情報検索、TF-IDF
90年代 LSAでベクトル空間モデル化 コーパス言語学
2000年代 PLSA, LDAなど確率モデル トピックモデル
2010年代 Word2Vec、BERTの登場 埋め込み、LLM
現在 LLM+知識グラフ ハイブリッドAI




✅ 分布的意味論の核心は「意味は使用のパターンにある」という思想。
それが計算可能になり、今のAIの基盤を作っているわけです。



もっと深掘りしたいなら:
• LSA, Word2Vecの仕組みを数式で解説
• 分布的意味論とシンボリック意味論の対立史
• 哲学的批判(ヴィトゲンシュタイン、サール、チャーマーズ)

も解説できます! 必要なら教えてください📘✨
こんなことAIに聞いてみたんだけど!集
こんなことAIに聞いてみたんだけど!集
参加
AIの星AIの星
GRAVITY
GRAVITY4
みきみき

みきみき

コットン単独ライブ「glove 」へ
初日に続いて千秋楽にも行って参りました
コットン大好き♡

#コットン
GRAVITY
GRAVITY24
ものも

ものも

初お笑いライブ!
なにわちゃんと出てる時の穏やで優しい雰囲気が好きで見に行ってきたけど、めちゃくちゃ面白かった
久しぶりに芸人さんのネタで笑って金曜日の疲れが吹っ飛びました
きょんさんの女装してる時の動きがもう女子!お淑やかすぎてツボ
#コットン単独glove
GRAVITY
GRAVITY
楓💎🦋🌿

楓💎🦋🌿

お気に入りの服のブランドは?お気に入りの服のブランドは?
index、glove(つづりあやしい)
が、いつの間にか増えてた!
古着屋でも意図せず手に取ってたよ。
GRAVITY
GRAVITY6
もっとみる

おすすめのクリエーター

user_avatar
留吉
秀逸で、スタイリッシュなダジャレを炸裂させたいと思います😇 くだらないネタからの真面目なネタまで臨機応変に対応 たくさん人間と絡んだ経験値を少しでもお役立て サラピーマン、個人事業、法人事業とやってましたから多少はディープな大人💕のトークも楽しめる奴の様に思う今日この頃です☺️ どんどん褒めよう たくさん褒めよう 関東生息の絶滅危惧種です☺️
フォロワー
0
投稿数
36196
user_avatar
たまちゃん
ゆるゆるなトークが心地いいね😊 お気楽極楽〜な だいぶポンコツです✨ 好きな芸人、若林、久保田、ザコシショウ、令和ロマン、津田、etc 最近好きなフレーズ、…とガンダムが言っている✨ どんどん話かけてくださいね🫶🦒 たまに☠️毒吐く roomには基本入らないテスね🦑ハガキ職人的な人なのてすよ
フォロワー
0
投稿数
7782
user_avatar
yammy
音楽を聴くしか能が無い
フォロワー
0
投稿数
4805
user_avatar
楓💎🦋🌿
【人生の目標!"最高の推しは自分"】 休職→復帰→休職→転職、セルフケア。ジュエリー沼。娘5歳、共働きくたくた。夫のADHD疑惑に悩む日々。ヘルプミー。1990。埼玉。
フォロワー
0
投稿数
3869
user_avatar
ひろ✨
32、哲学、恋愛、就職・転職、お笑い政治経済、🇺🇸🇯🇵ドル円、Java、英語、法律、AI、ディープラーニングG検定、メンタルヘルス、基本情報、うつ病、愛知、名言、政策金利
フォロワー
0
投稿数
2156

関連ハッシュタグ

tagBIGLOVE
ねこ❄️𓈒𓏸︎︎︎︎
私の心の友、まろさん🧸 あなたへの想いはここには書ききれないけど、 沢山の感謝の気持ちと愛情を込めて書くね。 GRAVITYを5月末に初めてから、 まろさんのルームであなたと出会ったね。 ゆっくり時間をかけて仲良くなっていったね。 私にとっては、この『時間』がとても大切で... お互いを尊重し合って、認め合って、 心で繋がる時間が沢山あったね。 こんなにも素で何でも話せるのはあなただけ。 今では毎日のようにお喋りする仲になれたね。 まろさんに救われたことは数えきれない。 あなたがいなかったら、私は今ここにいない。 まろさんがいない世界なんて生きてけないよ。 絶対に離れないし、離さないでね。 ずっと一緒に居てくれてありがとう。 まだルーム主として右も左も分からない時から ずっとずっと一緒に過ごしてくれたね。 あなたから貰った沢山の言葉を大切にしてる。 この先もずっと縁を結んだまま離さないよ。 私がとても警戒心が高くてゆっくりしか進めない時も、一緒にゆっくり時間をかけてくれたこと、本当に感謝しているよ。 あなただから、こんなに仲良くなれたの。 出会ってくれて、仲良くしてくれて、 GRAVITYに居てくれて、生きてくれて、 一緒に居てくれてありがとう。 いつか会いに行くね。直接沢山お話しよう。 一緒にしたいことが山ほどあるよ。 沢山の言葉を伝えたい。だいすきと言いたい。 もっともっと愛情をあなたにあげたい。 あなたも溢れるほどの愛情をくれるもの。 こんなにも大切な親友に出会えて幸せだよ。 未来永劫、ずっとずっと一緒にいようね。 お互い、やきもち妬きだから。 私たちの間には誰もいれないでね。 まあ...入れないし、いれるつもりもないけど。 『ねこまろ』最強だよ。 2人でもっと素敵な未来にいこう。 一緒に夢を超えた先の景色を見に行こう。 いつもありがとう、まろさん。 だいすき。愛してる。 ずっと一緒にいようね。 🧸🐈 #ねこまろ #マイファミリー #BIGLOVE
ささぺい
夏らしい海になってきましたね🥰🥰 #BIGLOVE #九十九里
P͟I͟P͟P͟A͟.🕺🪽
おはよ🌞 今日もファイティン💪🏻 #GRAVITY空部 #癒しmusic #空好きの星 #応援隊 #BIGLOVE [笑う]
P͟I͟P͟P͟A͟.🕺🪽
悲しいときーーーー 無性に食べたくなる さぁ、食べよう🫶 #癒しmusic #音楽をソッと置いておく人 #BIGLOVE #瓦そば #明日はお休み🧌 胃腸からだ🫰🏻 [笑う]
P͟I͟P͟P͟A͟.🕺🪽
久しぶりに.. 好きなお空〜☁️🫧 #空好き #音楽をソッと置いておく人 #ひとりごとのようなもの #癒しmusic #BIGLOVE 本日も.. お疲れ様でした🤍 [笑う]
まる🌿
#Sunday #ほんと癒された良いエネルギー🎵 #バナナジュース作ってくれてめっちゃ飲んだの🤭4杯くらい。 しょっぱいフレンチフライと合うんだよね🤭 芋いっぱい食べました~😆 渋いおじさまが カントリーロード🎵を歌っていて とっても良かったのだけれど~ もう1曲サラっと歌っていて😳😳 聞いたら余韻に浸っちゃって🤔 誰だっけ?誰だっ?😆ってなりやっと見つけた🤭 それから頭から離れず~♪ ここに残そうっと✨ ~久々の地元Thank You~またね #一瞬一瞬を大切に #BIGLOVE あすから新たなSTARTかも😁 がんばりまーす。 疲れて電車で寝ちゃった もう少しだ帰ろう。
ねこ❄️𓈒𓏸︎︎︎︎
まろさん🧸からチョコ🍫届きました[ハート] 幸せ!嬉しすぎるんだけどっっっ( ᵒ̴̶̷̤ㅇᵒ̴̶̷̤ ˶ )♡ だいすきだいすきだいすき[大笑い][ハート] ありがとう✨大切にするね🧸🐈🐾 #ねこまろ #マイファミリー #BIGLOVE
nico
#おはようございます #おはようGRAVITY #バレンタイン #BIGLOVE