ニューラルネットワークをもちいた自然言語処理解析について興味があるのですが、ニューラルネットワークをもちいた自然言語処理解析は不可能に近いというような話を風のうわさで聞いたような気がします。下記２項目のうち、いづれか１項目について、お答えいただけないでしょうか。

Question

shotaroh5663

26

22もっと見る

130pt

コンピュータ

ニューラルネットワークをもちいた自然言語処理解析について興味があるのですが、ニューラルネットワークをもちいた自然言語処理解析は不可能に近いというような話を風のうわさで聞いたような気がします。下記２項目のうち、いづれか１項目について、お答えいただけないでしょうか。

（１）ニューラルネットワークによる自然言語処理解析は、可能であることを示す論文の名前と、その論文作者、投稿されている学会の名前

（２）ニューラルネットワークをもちいた自然言語処理解析について、実現可能性があることを示す記事へのURL。ただし2006年以降のもの

以上何卒よろしくお願いいたします。

回答の条件

1人2回まで

登録：2007/08/16 14:00:54
終了：2007/08/22 14:58:13

※ 有料アンケート・ポイント付き質問機能は2023年2月28日に終了しました。

No.1

tmasao77202007/08/17 17:54:45

30pt

おそらくご質問の中の「自然言語処理解析」というのが何を指しているのかが不明なので、ピントのずれた回答になるかと思いますが。一口に自然言語処理といっても、いくつものレベルでの研究があり、どれを指しているかで回答は異なってくることと思います。

自然言語処理の分野でニューラルネットワークを用いた研究は多くあります。というか、ニューラルネットワークは古典的なパターン認識技術の一つに過ぎませんから、それを自然言語処理の分野のさまざまな応用に用いることは相当昔から行われています。広く言えば、学習問題に落とせるような言語処理の分野では一通り使われている技術ではないでしょうか。

少し関連しそうな話としては、ニューラルネットワークによるモデルでは、どの特徴量が効いているかといった失敗分析を含めた分析、デバッグが難しいという話くらいは、以前知人から聞いたことがありますが。

とりあえず情報学研究所のCiNiiデータベースで、「ニューラルネットワーク AND 自然言語処理」で検索した新しい順から10件を載せておきます。中身は見てませんがおそらく、いずれもニューラルネットワークを学習手法として用いた研究であるように推測できます。大まかな用例の傾向や使われている分野の学術雑誌の見当はつくのではないかと思います。

齋藤,雅裕; 萩原,将文: 概念の自動階層化による知識処理ニューラルネットワーク. 電子情報通信学会技術研究報告. NC, ニューロコンピューティング 106(590),137-142,20070309(ISSN 09135685) (電子情報通信学会/社団法人電子情報通信学会)
中村,純平; 但馬,康宏; 小谷,善行: ニューラルネットワークを用いた多人数対話での対話の繋がり抽出(翻訳,対話). 情報処理学会研究報告. 自然言語処理研究会報告 2006(53),53-58,20060519(ISSN 09196072) (情報処理学会/社団法人情報処理学会)
片岡,桂太郎; 萩原,将文: 推論可能な言語処理ニューラルネットワーク. 電子情報通信学会技術研究報告. NC, ニューロコンピューティング 104(758),185-190,20050321(ISSN 09135685) (電子情報通信学会/社団法人電子情報通信学会)
永田,亮; 井口,達也; 桝井,文人; 河合,敦夫: 日本人英語学習者を対象にした英文難易度判定手法(自然言語処理). 電子情報通信学会論文誌. D-II, 情報・システム, II-パターン処理 J87_D_II(6),1329-1338,20040601(ISSN 09151923) (電子情報通信学会編/電子情報通信学会情報・システムソサイエティ/社団法人電子情報通信学会)
片岡,圭太郎; 萩原,将文: 意味記憶及びエピソード記憶ニューラルネットワーク. 電子情報通信学会技術研究報告. NC, ニューロコンピューティング 102(730),91-96,20030311(ISSN 09135685) (電子情報通信学会/社団法人電子情報通信学会)
田中,均; 黄,炯韜; 萩原,将文: 文章概念記憶ニューラルネットワーク. 電子情報通信学会論文誌. D-II, 情報・システム, II-パターン処理 J85-D-II(10),1591-1601,20021001(ISSN 09151923) (電子情報通信学会編/電子情報通信学会情報・システムソサイエティ/社団法人電子情報通信学会)
守谷,純之介; 西野,哲朗: 制限された離散的拡張単純回帰ネットワークと実時間DPDAの等価性(<小特集>LAシンポジウム(情報基礎理論ワークショップ)論文小特集). 電子情報通信学会論文誌. D-I, 情報・システム, I-情報処理 J85-D-I(2),160-167,20020201(ISSN 09151915) (電子情報通信学会編/電子情報通信学会/社団法人電子情報通信学会)
納富,一宏; 山口,俊光; 藤本,哲男他: 臨床症例データベースにおける自然言語処理と自己組織化マップを用いた疾患系分類. バイオメディカル・ファジィ・システム学会誌 3(1),7～17,2001/12(ISSN 13451537) (バイオメディカル・ファジィ・システム学会)
永田,亮; 桝井,文人; 河合,努; 椎野,努: ニューラルネットワークを用いたリーディングタイム予測. 電子情報通信学会技術研究報告. TL, 思考と言語 101(349),1-6,20011009(ISSN 09135685) (電子情報通信学会/社団法人電子情報通信学会)
村田,真樹; 青,馬; 井佐原,均: 機械学習を用いたタイ語の品詞タグづけ. 情報処理学会研究報告. 自然言語処理研究会報告 2001(86),45-50,20010910(社団法人情報処理学会)

CiNii （NII論文情報ナビゲータ）

ご回答ありがとうございました！！

2007/08/22 14:57:05

No.2

hiramatsu_kg42432007/08/17 21:53:38

http://www.aso.ecei.tohoku.ac.jp/research/neural.html

たけじん 2007/08/17 18:25:24

可能であることを示す論文ですかぁ。
ニューラルネットワーク無能論なら沢山ありそうですが。

「あの人に答えてほしい」「この質問はあの人が答えられそう」というときに、回答リクエストを送ってみてましょう。

これ以上回答リクエストを送信することはできません。制限について

リクエスト送信済

回答リクエストを送信したユーザーはいません

wm5775 · Accepted Answer · 2007-08-21T10:57:40+09:00

新しい情報があまりなくてすみません。

下記の論文では、自然言語処理(解析)ではSVM(サポートベクタマシーン)がよく用いられていると記載されています。

http://ci.nii.ac.jp/naid/110002911719/

http://ci.nii.ac.jp/naid/10018011909/

サポートベクタマシーン(SVM)

http://www.neurosci.aist.go.jp/~kurita/lecture/svm/svm.html

名前や式はどうであれ、これらは何らかの非線型素子とエネルギー関数をもった結合ネットワークであることには変りありません。

他の方も述べていらっしゃいましたが、自然言語処理と言っても

- 形態素解析

- 構文解析

- 意味解析

- 文脈解析

- 言語理解

- 文の生成

のようにいろんな着眼点や解析ロジックがあり、その仕組みはスクラッチでのプログラミングだろうと、統計や代数計算であろうと、このようなニューラルネットワークなどの手法を使おうと、それらはあくまでもツールの問題であって、それらのツールをどのように組み合わせてどのように活用するかによって、あるいはその目標がどこにあるのか？によって可能か不可能か？という議論は変ってくると思います。

私の個人的な感想ですが、

【ニューラルネットワークの有利な点】

・人間がロジックを設計・仮定する必要がない。

・学習の度合いをきつくすることもゆるやかにすることも可能。

→「完璧」な処理を目指すのではなく、「なんとなく」というぼんやりした処理を目指すには良いのでは？

【ニューラルネットワークの不利な点】

・メモリを大量に消費する。メモリ効率や計算効率が悪い。

→これは人間の脳にも似ていますが、確保したニューロンのメモリエリアに対して10%くらいのデータしか、保持できない。それ以上の過学習をすると、学習データが壊れる。

・ミッションクリティカルな処理に向かない。

　→学習していないことに対してどのような応答を示すか検討がつかないので、判らなければ処理を中断してほしいというアルゴリズムがニューラルネットそのものには組み込めない。

ということで、ニューラルネットのみで実装するというより、他のロジックや統計などと組み合わせたハイブリッド方式や、もうすこし、挙動がトレースしやすいSVMなどが流行るのだと思います。

wm5775 · Accepted Answer · 2007-08-21T10:57:40+09:00