Inductive logic Programming 2016論文集より

専門家は、標準的な機械学習手法では通常無視される膨大な知識を持っている。この豊富で関係性のある知識を利用することで、特にノイズの多い不完全な学習データが存在する場合でも、よりロバストなモデルを学習することができる。このような専門家はドメインの専門家であることが多いが、機械学習の専門家ではないことが多い。そのため、どのような知識を提供すべきかを決定することは難しい問題である。我々の目標は、機械が生成したバイアスを専門家に提供することで、人間と機械の相互作用を向上させることであり、必要に応じて専門家が改良することができる。そのために、我々は、専門家が有用な助言を行えるように導くために、代替領域における知識を活用した転移学習を用いることを提案する。この知識は、一階論理のホーン節の形で捕捉される。我々は、移譲された知識の価値と、専門家が最初の知識を提供し、さらに移譲された知識の使用を修正し指示することに貢献することを経験的に実証する。

• How Does Predicate Invention Affect Human Comprehensibility?

  1980年代、Michieは機械学習を、予測精度と生成された仮説の理解度という直交する2つの性能軸で定義した。予測精度は容易に測定可能であるが、理解度はそうではないため、1990年代のMitchellの定義などでは、予測精度のみに基づく一次元的な機械学習のアプローチを用いる傾向があり、最終的には、記号的機械学習アプローチよりも統計的機械学習アプローチが好まれることになった。本論文では、人間による試行を用いて推定可能な仮説の理解可能性の定義を示す。また、述語発明を用いた場合と用いない場合の論理プログラムの理解可能性を検証する実験の結果を示す。その結果、理解可能性は提示されたプログラムの複雑さだけでなく、匿名の述語記号の存在にも影響されることが示された。

• Distributional Learning of Regular Formal Graph System of Bounded Degree

  本論文では、分布学習の手法を形式グラフシステム（FGS）言語に適用する方法について述べる。FGSとは、一階述語論理の項の代わりに項グラフを扱う論理プログラムである。我々は、1-finite context property (1-FCP)とbounded treewidth propertyを持つ有界次数の正規FGS言語が、正データとメンバーシップクエリーから学習可能であることを示す。

• Learning Relational Dependency Networks for Relation Extraction

  我々は、KBPスロットフィリングのタスク、すなわち、知識ベース構築のためにニュースワイヤー文書から関係情報を抽出することを考える。本論文では、関係依存ネットワーク(RDN)を用いて関係抽出のための言語パターンを学習する我々のパイプラインを紹介する。さらに、弱い監視、word2vec特徴、共同学習、人間の助言の利用など、いくつかの要素をこの関係フレームワークにどのように組み込むことができるかを実証する。ベンチマークであるKBP 2015タスクで異なるコンポーネントを評価し、RDNが多様な特徴のセットを効果的にモデル化し、現在の最新鋭の関係抽出手法と競争力のあるパフォーマンスを発揮することを示す。

• Towards Nonmonotonic Relational Learning from Knowledge Graphs

  近年の情報抽出の進歩により、知識グラフ（KG）と呼ばれる、関係する事実知識の巨大な集合体が生み出されている。知識グラフは自動的に構築されるため、本質的に不完全であり、オープンワールド仮定(OWA)の下で自然に扱われる。ルールマイニングの技術は、KGの完成という重要なタスクをサポートするために利用されてきた。しかし、これらの技術はホーンルールをマイニングすることができ、例外を捉えるには表現力が不十分であり、その結果、ミッシングリンクについて誤った予測をする可能性がある。最近、このギャップを埋めるルールベースの手法が提案されたが、これは単項のファクトのみを持つKGの平坦化された表現に適用される。本研究では、この手法を元の関係型のKGに拡張するための第一歩を踏み出し、実世界のKGに対する予備的な評価結果を提供し、本手法の有効性を実証する。

• Learning Predictive Categories Using Lifted Relational Neural Networks

  LRNN（Lifted Relational Neural Network）は、リフテッド・モデリングの考え方に基づく柔軟なニューラル・シンボリックのフレームワークである。本論文では、LRNNが、潜在的な実体、性質、関係のカテゴリを共同で誘導する必要がある学習問題を宣言的に指定し解決するために、どのように簡単に使用できるかを示す。

• Generation of Near-Optimal Solutions Using ILP-Guided Sampling

  この論文では、直接的な数値最適化では解けないが、関連する領域固有の知識が大量に存在する最適化問題に関心をもっている。分布推定アルゴリズム（EDA）として知られるヒューリスティック探索技術のカテゴリは、最適（または最適に近い）解が次第に高い確率を持つ確率分布から漸進的にサンプリングすることを目的としている。このような分布の推定を支援するために領域知識を利用することは可能であろうか。これを肯定的に答えるには、以下のものが必要である。(a)最適値のモデルを構築する際に領域知識を取り入れる汎用的な手法、(b)そのモデルを用いて新しいデータ標本を生成する方法。ここでは、(a)については帰納論理プログラミング(ILP)を用い、(b)については通常の論理型プログラミング装置を用いて新しいサンプルを生成する方法を検討する。具体的には、分布推定の各反復において、ILPエンジンを用いて良質の解を求めるモデルを構築する。その結果得られた理論は、新しいデータインスタンスの生成を導くために使用され、そのデータインスタンスは、ILPモデルと背景知識との組み合わせで導出可能なものに限定される。） 我々は、2つの最適化問題（KRKの終盤戦における最適勝利深度の予測、および、ジョブショップのスケジューリング）において、このアプローチを実証した。その結果、有望な結果が得られた。(a)分布推定の各反復において、ILP理論を用いて得られたサンプルは、理論を用いないサンプルよりも良い解の割合が大幅に増加する。(b)分布推定の終了において、ILP理論を用いて得られたサンプルは、理論を用いないサンプルよりも最適に近いサンプルをより多く含む。これらの結果を総合すると、ILP理論の利用は、複雑な領域知識を推定分布手順に取り込むための有用な手法となり得ることが示唆される。