ＡI特許調査
事例紹介
電子回路に関する特許調査をしてみた！
テーマ：電子回路に関するAI特許調査
・調査観点
事前学習された音声認識モデルの中間層特徴量と、目標タスク用に構築された音声認識モデルの中間層特徴量との差異を最小化する損失関数を導入し、両モデルの出力確率分布の誤差と中間層特徴量の誤差を組み合わせた複合損失関数に基づいてモデルパラメータを更新することで、少量の学習データでも高精度な音声認識を実現する音声認識モデルにおいて、中間層特徴量の選択と重み付けを適応的に制御することを特徴とする転移学習システム。
目的
上記のアイデア（調査観点）に関連する特許を抽出する。
条件
調査対象国：JP
調査資料：特許公報、実用新案公報
調査期間：出願10年
ステータス：生死不問
調査母集合：電子回路とAI（人工知能、機械学習、ディープラーニング、深層学習）に関するもの
作業
- AIを使って、アイデアを生成＆ブラッシュアップ
- AIを使って、アイデアに関連する特許を抽出
- AIを使って、アイデアと抽出公報を対比（詳細評価）
- AIを使って、アイデアと抽出公報を対比（対比表作成）
- AIを使って、アイデアと類似する特許の出願動向分析
- AIを使って、アイデアと類似する技術カテゴリ抽出
目的①
先行技術調査
新規の特許出願を行う前に、類似する既存の特許公報を探す調査です。発明の新規性や進歩性を確認し、特許取得の可能性を判断します。無駄な出願を防ぎ、より強い特許請求範囲の作成に役立ちます。
目的②
侵害予防調査
新製品の開発・販売前に、他社の特許権を侵害していないかを確認する調査です。他社特許に抵触するリスクを事前に把握し、設計変更や回避策の検討、ライセンス交渉の判断材料として活用します。
目的③
無効資料調査
特定の特許の有効性を検証するための調査です。対象特許の出願前に公知となっていた特許公報を探し、新規性や進歩性を否定できる資料を収集します。特許無効審判や侵害訴訟での資料に使用されます。
電子回路 × 事例紹介
Case Study
AIを活用した特許調査を動画とテキストでご紹介！
近年、人工知能（AI）技術の進歩により、特許調査の手法も大きく変化しています。AIを活用した特許調査では、従来の検索式による方法に加え、自然言語処理や機械学習の技術を用いることで、より広範な関連技術の発見や、類似特許の効率的な抽出が可能となっています。
特に、AIによる言語の意味理解や文脈把握により、キーワードだけでは発見が困難だった技術文献の特定や、異なる技術分野での類似発明の発見などで成果を上げています。また、大量の特許文献を短時間で分析し、技術動向の可視化や重要文献の優先度付けなども実現しています。
このような先進的な調査手法の導入により、調査の質と効率が向上し、より効果的な特許戦略の立案が可能となっています。
AIを使って、アイデアを生成＆ブラッシュアップ
AIを活用し、特許出願できそうなアイデアを10件、考えました。
以下の通り、ご報告いたします。
1. マルチモーダル深層学習モデル最適化システム
複数の異なる種類のデータ入力に対して、各データ種別に特化した深層ニューラルネットワークを構築し、各ネットワークの中間層から得られる特徴量を統合する融合層を設け、当該融合層において重要度に基づく特徴量の選択的統合を行い、統合された特徴量に基づく予測モデルを構築する深層学習システムにおいて、各データ種別の特徴抽出精度と融合層での特徴量統合効率を評価指標として、ネットワーク構造の自動最適化を行うことを特徴とするマルチモーダル深層学習システム。
・アイデアの特徴
①各データ種別に特化した個別のニューラルネットワークを構築する
②各ネットワークの中間層から特徴量を抽出する
③抽出された特徴量を重要度に基づいて選択的に統合する
④統合特徴量に基づく予測モデルを構築する
⑤特徴抽出精度と特徴量統合効率を指標としてネットワーク構造を最適化する
2. 音声認識モデル転移学習システム
事前学習された音声認識モデルの中間層特徴量と、目標タスク用に構築された音声認識モデルの中間層特徴量との差異を最小化する損失関数を導入し、両モデルの出力確率分布の誤差と中間層特徴量の誤差を組み合わせた複合損失関数に基づいてモデルパラメータを更新することで、少量の学習データでも高精度な音声認識を実現する音声認識モデルにおいて、中間層特徴量の選択と重み付けを適応的に制御することを特徴とする転移学習システム。
・アイデアの特徴
①事前学習モデルと目標タスクモデルの中間層特徴量の差異を最小化する
②出力確率分布の誤差と中間層特徴量の誤差を組み合わせた損失関数を使用する
③モデルパラメータを複合損失関数に基づいて更新する
④中間層特徴量の選択を適応的に制御する
⑤重み付けを動的に調整する
3. ハードウェア最適化ニューラルネットワーク構築システム
畳み込みニューラルネットワークの各層における演算量と精度のトレードオフを考慮し、量子化ビット数と計算精度の関係を層ごとに最適化し、FPGA上での実装に適した論理回路構造を自動生成するシステムにおいて、層ごとの演算特性に応じた最適なハードウェアリソース配分を決定し、論理回路の配置配線を最適化することを特徴とするハードウェア実装システム。
・アイデアの特徴
①層ごとの演算量と精度のトレードオフを評価する
②量子化ビット数と計算精度の関係を層ごとに最適化する
③FPGA向けの論理回路構造を自動生成する
④層ごとの演算特性に基づいてハードウェアリソースを配分する
⑤論理回路の配置配線を最適化する
4. 言語モデル適応型混合学習システム
複数の要素言語モデルを学習データの特性に基づいて分割し、各要素モデルをリカレントニューラルネットワークにより個別に学習させ、適応データに対する各要素モデルの予測精度に基づいて混合重みを推定し、推定された混合重みを用いて要素モデルを統合することで、対象ドメインに適応した混合言語モデルを構築するシステムにおいて、各要素モデルの特性を考慮した重み更新を行うことを特徴とする言語モデル学習システム。
・アイデアの特徴
①学習データの特性に基づいて複数の要素言語モデルを作成する
②各要素モデルをリカレントニューラルネットワークで個別に学習する
③適応データに対する予測精度から混合重みを推定する
④推定された混合重みで要素モデルを統合する
⑤要素モデルの特性を考慮して重みを更新する
5. ベイジアンネットワーク構造最適化システム
深層ニューラルネットワークの構造をベイジアングラフ探索により自動最適化し、訓練データ、検証データ、試験データの特性を考慮しながら、冗長なネットワーク接続を削減し、モデルの予測精度と計算効率を両立させるシステムにおいて、ベイズボールアルゴリズムを用いた構造探索と、半教師あり学習によるパラメータ最適化を組み合わせることを特徴とするネットワーク構造最適化システム。
・アイデアの特徴
①ベイジアングラフ探索によりネットワーク構造を自動最適化する
②各種データの特性を考慮して冗長接続を削減する
③予測精度と計算効率の両立を図る
④ベイズボールアルゴリズムで構造を探索する
⑤半教師あり学習でパラメータを最適化する
6. 段階的モデル訓練システム
第1のニューラルネットワークモデルと第2のニューラルネットワークモデルを連結した第3のニューラルネットワークモデルを構築し、センシングデータと動作パラメータを入力として、誤差逆伝播法により各モデルのパラメータを段階的に最適化するシステムにおいて、各モデル間の相互作用を考慮しながら、動作パラメータの更新と識別精度の向上を同時に実現することを特徴とするモデル訓練システム。
・アイデアの特徴
①複数のニューラルネットワークモデルを連結する
②センシングデータと動作パラメータを入力として使用する
③誤差逆伝播法で各モデルのパラメータを最適化する
④モデル間の相互作用を考慮する
⑤動作パラメータの更新と識別精度の向上を両立させる
7. ドメイン適応型分類システム
教師ありデータと教師なしデータを用いて、特徴量抽出モデルと分類モデルを組み合わせた学習システムを構築し、敵対的学習により異なるドメイン間でのデータ分布の差異を最小化しながら、分類精度を向上させるシステムにおいて、ドメイン間の特徴量分布の整合性を維持しつつ、分類モデルのパラメータを最適化することを特徴とする分類システム。
・アイデアの特徴
①特徴量抽出モデルと分類モデルを組み合わせる
②教師ありデータと教師なしデータを活用する
③敵対的学習でドメイン間の差異を最小化する
④特徴量分布の整合性を維持する
⑤分類モデルのパラメータを最適化する
8. 因果関係抽出学習システム
テキストから抽出した単語の埋め込み表現と、単語間の因果関係に基づく関係性ベクトルを組み合わせ、新たな対応情報を生成し、この対応情報を用いてニューラルネットワークの訓練を行うシステムにおいて、単語の意味的類似性と因果関係の強度を考慮した学習を実現することを特徴とする自然言語処理システム。
・アイデアの特徴
①単語の埋め込み表現を生成する
②単語間の因果関係に基づく関係性ベクトルを作成する
③新たな対応情報を生成する
④単語の意味的類似性を考慮する
⑤因果関係の強度を学習に反映する
9. 医療画像特徴学習システム
医療画像から特徴量を抽出し、画像認識処理を行うシステムにおいて、抽出された特徴量と認識結果を機械学習装置に送信し、特徴量の重要度評価と認識精度の向上を同時に実現する学習用データを生成することを特徴とする医療画像処理システム。
・アイデアの特徴
①医療画像から特徴量を抽出する
②抽出特徴量に基づく画像認識を実行する
③特徴量と認識結果を学習データとして活用する
④特徴量の重要度を評価する
⑤認識精度の向上を図る
10. セグメンテーション学習最適化システム
対象物の領域特徴量を抽出するエンコーダ部分と、特徴マップから対象物の領域を推定するデコーダ部分を持つセグメンテーション学習器に、対象物の種類を推定する分類器を組み合わせ、領域推定精度と物体分類精度の双方を向上させる学習システムにおいて、特徴マップの選択的活用と分類器の出力を考慮した最適化を行うことを特徴とするセグメンテーション学習システム。
・アイデアの特徴
①エンコーダで領域特徴量を抽出する
②デコーダで対象物の領域を推定する
③分類器で対象物の種類を推定する
④特徴マップを選択的に活用する
⑤領域推定と物体分類の精度を両立させる
AIを使って、アイデアに関連する特許を抽出
以下のアイデアに関連する特許公報を8件抽出しました。以下の通り、報告いたします。
・アイデア（調査観点、請求項案）
事前学習された音声認識モデルの中間層特徴量と、目標タスク用に構築された音声認識モデルの中間層特徴量との差異を最小化する損失関数を導入し、両モデルの出力確率分布の誤差と中間層特徴量の誤差を組み合わせた複合損失関数に基づいてモデルパラメータを更新することで、少量の学習データでも高精度な音声認識を実現する音声認識モデルにおいて、中間層特徴量の選択と重み付けを適応的に制御することを特徴とする転移学習システム。
■技術的特徴
上記のアイデアの技術的特徴は以下の通りです。
①事前学習された音声認識モデルと目標タスク用音声認識モデルの2つのモデルを使用
②両モデルの中間層特徴量の差異を最小化する損失関数を導入
③出力確率分布の誤差と中間層特徴量の誤差を組み合わせた複合損失関数を使用
④複合損失関数に基づいてモデルパラメータを更新
⑤中間層特徴量の選択と重み付けを適応的に制御
1.関連公報の抽出結果
上記のアイデアに関連する公報を8件、抽出しました。
- JPWO2020090651 (出願日：2019-10-25、公開日：2021-09-24、出願人：日本電信電話株式会社、名称：音響モデル学習装置、モデル学習装置、それらの方法、およびプログラム)
- JPWO2023181222 (出願日：2022-03-23、公開日：2023-09-28、出願人：日本電信電話株式会社、名称：学習装置、学習方法、および、学習プログラム)
- JP2019095599 (出願日：2017-11-22、公開日：2019-06-20、出願人：日本電信電話株式会社、名称：音響モデル学習装置、音声認識装置、それらの方法、及びプログラム)
- JP2021110968 (出願日：2020-01-06、公開日：2021-08-02、出願人：株式会社東芝、名称：学習装置、学習方法及びプログラム)
- JPWO2019202941 (出願日：2019-03-28、公開日：2021-03-25、出願人：日本電信電話株式会社、名称：自己訓練データ選別装置、推定モデル学習装置、自己訓練データ選別方法、推定モデル学習方法、およびプログラム)
- JP2016105232 (出願日：2014-12-01、公開日：2016-06-09、出願人：日本電信電話株式会社、名称：言語モデル作成装置、言語モデル作成方法、プログラム、および記録媒体)
- JP2022002023 (出願日：2020-06-22、公開日：2022-01-06、出願人：パナソニックオートモーティブシステムズ株式会社、名称：学習装置、学習方法及びプログラム)
- JP2023172115 (出願日：2022-05-23、公開日：2023-12-06、出願人：株式会社日立製作所、名称：物体検知モデル学習装置、物体検知装置及び物体検知モデル学習方法)
2.特徴別の該否結果
上記で抽出した特許公報8件について、アイデアの特徴5点に関する該否結果をまとめました。
※評価基準：〇（特徴の要件を全て含む）、△（特徴の要件を一部含む）、×（特徴の要件を一つも含まない）
| 公報番号(出願人) | 類似度(%) | ① | ② | ③ | ④ | ⑤ |
|---|---|---|---|---|---|---|
| 1. JPWO2020090651(NTT) | 95% | 〇 | 〇 | 〇 | 〇 | △ |
| 2. JPWO2023181222(NTT) | 90% | 〇 | 〇 | 〇 | 〇 | × |
| 3. JP2019095599(NTT) | 85% | 〇 | △ | 〇 | 〇 | × |
| 4. JP2021110968(東芝) | 80% | 〇 | 〇 | △ | 〇 | × |
| 5. JPWO2019202941(NTT) | 75% | 〇 | × | 〇 | 〇 | △ |
| 6. JP2016105232(NTT) | 70% | 〇 | × | △ | 〇 | × |
| 7. JP2022002023(パナソニック) | 65% | △ | △ | 〇 | 〇 | × |
| 8. JP2023172115(日立) | 60% | △ | △ | △ | 〇 | × |
3.抽出公報の詳細レビュー
類似度の高い抽出公報3件について、より詳細な評価結果をまとめました。
■1件目：類似度 95%
- 公開番号: JPWO2020090651
- 出願日: 2019年10月25日
- 公開日: 2021年9月24日
- 出願人: 日本電信電話株式会社
- 名称：音響モデル学習装置、モデル学習装置、それらの方法、およびプログラム
- 結果：類似度95%、①〇、②〇、③〇、④〇、⑤△
- 要点：（産業分野）音声認識の機械学習技術。(課題)音響モデルの学習効率と精度の向上。(解決手段)学習用の特徴量に対する第二の音響モデルの出力確率分布に基づく第一の損失と、第一の音響モデルと第二の音響モデルの中間特徴量に基づく第二の損失を組み合わせて学習を行う。(効果・特徴)少量の学習データでも高精度な音声認識が可能。
- 公報リンク(GooglePatents)：https://patents.google.com/patent/JPWO2020090651
〇特徴別の該否結果と判定理由
①事前学習された音声認識モデルと目標タスク用音声認識モデルの2つのモデルを使用：〇
※判定理由：第一の音響モデル（学習済み）と第二の音響モデル（学習対象）の2つのモデルを使用する記載がある。
②両モデルの中間層特徴量の差異を最小化する損失関数を導入：〇
※判定理由：両モデルの中間特徴量の差異に基づく第二の損失を導入する記載がある。
③出力確率分布の誤差と中間層特徴量の誤差を組み合わせた複合損失関数を使用：〇
※判定理由：出力確率分布に基づく第一の損失と中間特徴量に基づく第二の損失を組み合わせる記載がある。
④複合損失関数に基づいてモデルパラメータを更新：〇
※判定理由：組み合わせた損失に基づいてモデルのパラメータを更新する記載がある。
⑤中間層特徴量の選択と重み付けを適応的に制御：△
※判定理由：中間特徴量の利用に関する記載はあるが、選択や重み付けの適応的制御については明確な記載がない。
■2件目：類似度 90%
- 公開番号: JPWO2023181222
- 出願日: 2022年3月23日
- 公開日: 2023年9月28日
- 出願人: 日本電信電話株式会社
- 名称：学習装置、学習方法、および、学習プログラム
- 結果：類似度90%、①〇、②〇、③〇、④〇、⑤×
- 要点：（産業分野）機械学習モデルの学習技術。(課題)学習環境と運用環境の違いによる性能劣化の防止。(解決手段)学習環境と運用環境のデータの特徴ベクトル分布の不一致度と出力値の確信度に関する損失を組み合わせて最小化。(効果・特徴)環境の違いに頑健な学習モデルの実現。
- 公報リンク(GooglePatents)：https://patents.google.com/patent/JPWO2023181222
〇特徴別の該否結果と判定理由
①事前学習された音声認識モデルと目標タスク用音声認識モデルの2つのモデルを使用：〇
※判定理由：学習環境と運用環境での深層学習モデルの使用が記載されている。
②両モデルの中間層特徴量の差異を最小化する損失関数を導入：〇
※判定理由：両環境での特徴ベクトル分布の不一致度を最小化する記載がある。
③出力確率分布の誤差と中間層特徴量の誤差を組み合わせた複合損失関数を使用：〇
※判定理由：特徴ベクトル分布の不一致度と出力値の確信度に関する損失を組み合わせる記載がある。
④複合損失関数に基づいてモデルパラメータを更新：〇
※判定理由：組み合わせた損失を最小化するようにパラメータを更新する記載がある。
⑤中間層特徴量の選択と重み付けを適応的に制御：×
※判定理由：特徴量の選択や重み付けの適応的制御に関する記載がない。
■3件目：類似度 85%
- 公開番号: JP2019095599
- 出願日: 2017年11月22日
- 公開日: 2019年6月20日
- 出願人: 日本電信電話株式会社
- 名称：音響モデル学習装置、音声認識装置、それらの方法、及びプログラム
- 結果：類似度85%、①〇、②△、③〇、④〇、⑤×
- 要点：（産業分野）音声認識のための音響モデル学習技術。(課題)知識の累積および実利用を考慮した効率的な音響モデル学習。(解決手段)特徴量識別モデルに基づきタスクを識別し、タスクごとの中間特徴量と出力確率分布を用いて学習を行う。(効果・特徴)効率的な知識累積と高精度な音声認識の実現。
- 公報リンク(GooglePatents)：https://patents.google.com/patent/JP2019095599
〇特徴別の該否結果と判定理由
①事前学習された音声認識モデルと目標タスク用音声認識モデルの2つのモデルを使用：〇
※判定理由：特徴量識別モデルと音響モデルの2つのモデルを使用する記載がある。
②両モデルの中間層特徴量の差異を最小化する損失関数を導入：△
※判定理由：中間特徴量の利用に関する記載はあるが、差異の最小化については明確な記載がない。
③出力確率分布の誤差と中間層特徴量の誤差を組み合わせた複合損失関数を使用：〇
※判定理由：出力確率分布と中間特徴量を用いた学習の記載がある。
④複合損失関数に基づいてモデルパラメータを更新：〇
※判定理由：出力確率が大きくなるようにパラメータを更新する記載がある。
⑤中間層特徴量の選択と重み付けを適応的に制御：×
※判定理由：特徴量の選択や重み付けの適応的制御に関する記載がない。
4.総括（考察・コメント）
ユーザーが入力したアイデア（調査観点、請求項案）と抽出した公報を比較すると、以下のような考察ができます：
1.産業分野の比較：
・アイデアと抽出公報は、主に音声認識における機械学習技術の分野に属している。
・特に上位3件は音響モデルや音声認識モデルの学習に特化した技術である。
2.課題の比較：
・アイデアは少量の学習データでの高精度な音声認識の実現を課題としている。
・抽出公報では、学習効率の向上や環境差への対応、知識累積などが課題として挙げられている。
・課題の本質は、効率的な学習と高精度化という点で共通している。
3.解決手段の比較：
・アイデアと最も類似度の高いJPWO2020090651は、2つのモデルの中間特徴量と出力確率分布を組み合わせた損失関数を用いる点で非常に近い技術を開示している。
・ただし、アイデアの特徴である「中間層特徴量の選択と重み付けを適応的に制御」については、抽出された公報のいずれにも明確な開示がない。
・JPWO2023181222は特徴ベクトル分布の不一致度を用いる点で類似するが、適応的な制御については言及していない。
・他の公報も、中間層特徴量の利用方法は異なるアプローチを採用している。
4.差異点：
・最も大きな差異は、中間層特徴量の選択と重み付けの適応的制御にある。
・抽出公報では中間層特徴量の利用は開示されているものの、その選択や重み付けを動的に制御する技術については明確な開示が見られない。
・このことから、アイデアの特徴⑤は新規性のある要素である可能性が高い。
5.まとめ：
・基本的な転移学習の枠組みや複合損失関数の利用については、既存技術との類似性が高い。
・しかし、中間層特徴量の選択と重み付けを適応的に制御する点は、既存技術には見られない特徴である。
・この特徴を明確に請求項に記載することで、新規性・進歩性を主張できる可能性がある。
新規性や進歩性に関する意見やアドバイスを得るためには、弁理士などの専門家に相談することをお勧めします。
AIを使って、アイデアと抽出公報を対比（詳細評価）
アイデアの特徴①②③④⑤と抽出公報を対比、評価しました。
以下の通り、ご報告いたします。
・アイデアの特徴
①事前学習された音声認識モデルと目標タスク用音声認識モデルの2つのモデルを使用
②両モデルの中間層特徴量の差異を最小化する損失関数を導入
③出力確率分布の誤差と中間層特徴量の誤差を組み合わせた複合損失関数を使用
④複合損失関数に基づいてモデルパラメータを更新
⑤中間層特徴量の選択と重み付けを適応的に制御
・抽出公報
公報番号：JPWO2020090651
出願日：2019-10-25
公開日：2021-09-24
出願人：日本電信電話株式会社
名称：音響モデル学習装置、モデル学習装置、それらの方法、およびプログラム
・該否結果
| 公報番号(出願人) | 類似度 (%) | ① | ② | ③ | ④ | ⑤ |
|---|---|---|---|---|---|---|
| JPWO2020090651(NTT) | 80% | 〇 | 〇 | 〇 | 〇 | × |
特徴①と抽出公報との比較
・該否結果：〇
・特徴①に対応する箇所と内容：
「学習済みのニューラルネットワーク型音響モデルである第一の音響モデル」と「学習対象のニューラルネットワーク型音響モデルである第二の音響モデル」
・補足：
特徴①は事前学習モデルと目標タスク用モデルの2つを使用することですが、抽出公報Ⅰでも学習済みの第一音響モデルと学習対象の第二音響モデルの2つを使用しており、完全に対応しています。
特徴②と抽出公報との比較
・該否結果：〇
・特徴②に対応する箇所と内容：
「第一の音響モデルの中間特徴量と前記第二の音響モデルの中間特徴量とに基づく第二の損失」
・補足：
特徴②は両モデルの中間層特徴量の差異を最小化する損失関数を導入することですが、抽出公報Ⅰでも両モデルの中間特徴量に基づく損失を導入しており、対応しています。
特徴③と抽出公報との比較
・該否結果：〇
・特徴③に対応する箇所と内容：
「第二の音響モデルの出力確率分布に基づく第一の損失と、…第一の音響モデルの中間特徴量と前記第二の音響モデルの中間特徴量とに基づく第二の損失」
・補足：
特徴③は出力確率分布の誤差と中間層特徴量の誤差を組み合わせた複合損失関数を使用することですが、抽出公報Ⅰでも出力確率分布に基づく第一の損失と中間特徴量に基づく第二の損失を組み合わせており、対応しています。
特徴④と抽出公報との比較
・該否結果：〇
・特徴④に対応する箇所と内容：
「第二の音響モデルのパラメタを更新するパラメタ更新部」
・補足：
特徴④は複合損失関数に基づいてモデルパラメータを更新することですが、抽出公報Ⅰでも両損失に基づいてモデルパラメータを更新しており、対応しています。
特徴⑤と抽出公報との比較
・該否結果：×
・特徴⑤に対応する箇所と内容：
関連する記載無し。
・補足：
特徴⑤は中間層特徴量の選択と重み付けを適応的に制御することですが、抽出公報Ⅰには中間層特徴量の選択や重み付けの適応的制御に関する記載はありません。
総括（アイデアと抽出公報の比較）
1.産業分野の比較：
アイデアと抽出公報は、いずれも音声認識のための機械学習モデルの学習技術という分野に属しています。特に、既存の学習済みモデルを活用して新しいタスクのためのモデルを学習させるという技術領域で一致しています。
2.課題の比較：
抽出公報は、音響モデルの学習において、既存モデルの知識を効果的に活用しながら新しいモデルを学習させるという課題に焦点を当てています。アイデアも同様の課題に取り組んでいますが、より適応的な制御方法を提案している点で異なります。
3.解決手段の比較：
抽出公報は、出力確率分布と中間特徴量の両方を考慮した損失関数を用いてモデルを学習させる方法を提案しています。アイデアは同様のアプローチを採用しつつ、中間層特徴量の選択と重み付けを適応的に制御するという追加の機能を提案している点で、より高度な解決手段を示しています。
AIを使って、アイデアと抽出公報を対比（対比表作成）
以下は、アイデアの特徴と抽出公報に関して対比表にまとめたものです：
■アイデアの特徴と抽出公報との対比表
| 特徴 | 記載箇所 | 記載内容（抽出公報から転記） | 一致点 | 相違点 | 類似度 | 関連評価 |
|---|---|---|---|---|---|---|
| ①：事前学習された音声認識モデルと目標タスク用音声認識モデルの2つのモデルを使用 | 請求項1 | 学習済みのニューラルネットワーク型音響モデルである第一の音響モデル、学習対象のニューラルネットワーク型音響モデルである第二の音響モデル | 2つの音声認識モデル（事前学習済みと学習対象）を使用する点 | 特になし | 高い | 〇 |
| ②：両モデルの中間層特徴量の差異を最小化する損失関数を導入 | 請求項1 | 第一の音響モデルの中間特徴量と前記第二の音響モデルの中間特徴量とに基づく第二の損失 | 両モデルの中間層特徴量に基づく損失関数を使用する点 | 具体的な最小化方法の詳細記載なし | 高い | 〇 |
| ③：出力確率分布の誤差と中間層特徴量の誤差を組み合わせた複合損失関数を使用 | 請求項1 | 第二の音響モデルの出力確率分布に基づく第一の損失と、第一の音響モデルの中間特徴量と前記第二の音響モデルの中間特徴量とに基づく第二の損失 | 出力確率分布と中間特徴量の両方を考慮した損失関数を使用する点 | 特になし | 高い | 〇 |
| ④：複合損失関数に基づいてモデルパラメータを更新 | 請求項1 | 第二の音響モデルのパラメタを更新するパラメタ更新部 | 損失関数に基づくパラメータ更新を行う点 | 更新方法の具体的な記載なし | 高い | 〇 |
| ⑤：中間層特徴量の選択と重み付けを適応的に制御 | - | 記載なし | - | 中間層特徴量の選択や重み付けの適応的制御に関する記載なし | 低い | × |
■総括（考察、コメント）
- 基本的なアプローチ：
両者とも、事前学習モデルと学習対象モデルの2つの音響モデルを使用し、それらの中間層特徴量と出力確率分布を活用する点で、基本的なアプローチが一致しています。 - 損失関数の設計：
複合損失関数を使用する考え方が完全に一致しており、出力確率分布の誤差と中間層特徴量の誤差を組み合わせる方法を採用しています。 - パラメータ更新メカニズム：
両者とも損失関数に基づいてモデルパラメータを更新する機構を備えていますが、抽出公報では具体的な更新方法の詳細は記載されていません。 - 適応的制御の有無：
アイデアでは中間層特徴量の選択と重み付けを適応的に制御する機能を備えていますが、抽出公報にはこの機能に関する記載がありません。これが両者の最も大きな相違点となっています。 - 新規性・進歩性：
特徴①～④については抽出公報と高い類似性を示していますが、特徴⑤は抽出公報には記載がなく、この点に新規性が認められる可能性があります。
結論として、基本的なアーキテクチャと損失関数の設計については高い類似性を持っていますが、中間層特徴量の適応的制御という点で明確な差異があり、この部分に技術的な特徴があると考えられます。
AIを使って、アイデアと類似する特許の出願動向分析
本テーマに関連する特許出願について、出願年,出願人等の観点で分析しました。
1-1. 出願年別の傾向分析:
| 出願年 | 件数 | 主な技術トレンド |
|---|---|---|
| 2014-2016年 | 4件 | 言語モデル学習、音声認識、ニューラルネットワークの基礎技術 |
| 2017-2018年 | 12件 | パターン認識、物体検出、データ拡張手法 |
| 2019-2020年 | 28件 | 敵対的生成ネットワーク、マルチモーダル学習、転移学習 |
| 2021-2022年 | 36件 | 知識蒸留、自己教師あり学習、マルチタスク学習 |
| 2023-2024年 | 20件 | 因果関係抽出、プライバシー保護学習、適応学習 |
・補足説明
最近5年間で出願件数が大幅に増加しており、特に2021-2022年が最も多い。技術的には基礎的なニューラルネットワークから、より高度な知識蒸留やマルチタスク学習へと発展している。また、近年はプライバシー保護や適応学習など、実用化に向けた技術開発が活発化している。
1-2. 主要出願人別の技術領域:
| 出願人 | 件数 | 主な技術領域 |
|---|---|---|
| 富士通 | 16件 | 自然言語処理、知識抽出、マルチモーダル学習 |
| 日本電信電話 | 12件 | 音声認識、言語モデル、プライバシー保護学習 |
| 富士フイルム | 11件 | 医療画像処理、物体検出、転移学習 |
| パナソニック | 8件 | センサーデータ処理、異常検知、適応学習 |
| 日立製作所 | 7件 | 物性予測、シミュレーション、産業応用 |
| その他 | 46件 | 画像認識、強化学習、データマイニングなど |
・補足説明
大手IT企業や電機メーカーが主要な出願人となっており、各社の事業領域に応じた特徴的な技術開発を行っている。富士通は自然言語処理関連、富士フイルムは医療画像処理関連、日立製作所は産業応用関連など、それぞれの強みを活かした研究開発が進められている。
1-3. 技術分野別の分類:
| 技術分野 | 件数 | 主な特徴 |
|---|---|---|
| 機械学習基盤技術 | 28件 | モデル最適化、損失関数設計、学習効率化 |
| 画像・映像処理 | 22件 | 物体検出、セグメンテーション、異常検知 |
| 自然言語処理 | 18件 | 言語モデル、機械翻訳、知識抽出 |
| 音声処理 | 12件 | 音声認識、話者識別、音声合成 |
| データ解析・予測 | 20件 | 時系列解析、異常検知、予測モデリング |
・補足説明
機械学習の基盤技術に関する特許が最も多く、次いで画像・映像処理、自然言語処理の順となっている。基盤技術では、モデルの最適化や学習効率化に関する技術が中心である。応用分野では画像処理が最も活発で、医療や産業応用など様々な用途での開発が進められている。
1-4. 技術課題別の分類:
| 技術課題 | 件数 | 主なアプローチ |
|---|---|---|
| 学習効率化 | 32件 | 知識蒸留、転移学習、データ拡張 |
| 精度向上 | 28件 | マルチタスク学習、アンサンブル学習、損失関数設計 |
| リソース最適化 | 22件 | モデル圧縮、量子化、並列処理 |
| プライバシー保護 | 10件 | 連合学習、差分プライバシー、暗号化学習 |
| 適応性向上 | 8件 | ドメイン適応、自己学習、継続学習 |
・補足説明
学習効率化や精度向上に関する課題が多く、知識蒸留や転移学習などの手法を用いたアプローチが主流となっている。近年は、プライバシー保護や適応性向上など、実用化に向けた新たな課題への取り組みも増加している。
1-5. 総括
2014年から2024年までの特許出願傾向を分析した結果、機械学習技術の進化とともに出願件数が増加し、特に2021-2022年がピークとなっている。技術的には基礎研究から実用化研究へとシフトしており、知識蒸留やマルチタスク学習などの高度な手法の開発が進んでいる。また、プライバシー保護や適応学習など、実用化に向けた新たな課題への取り組みも活発化している。出願人別では大手IT企業や電機メーカーが中心となっており、各社の事業領域に応じた特徴的な技術開発が行われている。今後は、さらなる実用化に向けた技術開発や、新たな応用分野の開拓が期待される。
特許出願の内容を複数の観点から分析しました。
2-1. 技術分野による分類
| 技術分野 | 特徴的な出願内容 | 件数 |
|---|---|---|
| 機械学習基盤技術 | ニューラルネットワーク構造、損失関数設計、パラメータ最適化 | 28件 |
| 自然言語処理 | 言語モデル学習、機械翻訳、テキスト生成 | 15件 |
| 画像認識/処理 | 物体検出、セグメンテーション、画像生成 | 25件 |
| 音声認識/処理 | 音響モデル学習、音声認識モデル | 8件 |
| データ分析/予測 | データマイニング、予測モデル、異常検知 | 14件 |
| セキュリティ技術 | プライバシー保護、データ保護 | 10件 |
補足説明：機械学習の基盤技術に関する出願が最も多く、特にニューラルネットワークの構造最適化や学習手法の改善に関する特許が目立ちます。画像認識分野も活発で、医療画像処理や製品検査など産業応用を意識した出願が多く見られます。また、自然言語処理分野では言語モデルの高度化に関する技術が増加傾向にあります。
2-2. 産業分野による分類
| 産業分野 | 応用例 | 該当特許数 |
|---|---|---|
| 製造業 | 品質検査、異常検知、工程最適化 | 22件 |
| 医療/ヘルスケア | 医療画像診断支援、健康モニタリング | 15件 |
| IT/通信 | 自然言語処理、機械翻訳、情報検索 | 25件 |
| セキュリティ | 認証、不正検知、プライバシー保護 | 12件 |
| 自動車/運輸 | 自動運転支援、運行管理 | 8件 |
| 一般産業 | 汎用的な機械学習基盤技術 | 18件 |
補足説明：IT/通信分野での応用が最も多く、特に大手IT企業による基盤技術の特許取得が活発です。製造業での応用も多く、特に品質管理や異常検知などの実用的な技術の出願が増えています。医療分野では画像診断支援を中心に、AIの実用化に向けた取り組みが進んでいることがわかります。
2-3. 製品分野による分類
| 製品分野 | 具体例 | 件数 |
|---|---|---|
| ソフトウェアシステム | 機械学習フレームワーク、開発支援ツール | 30件 |
| 組込みシステム | エッジAI、組込み機械学習 | 15件 |
| 画像処理システム | 画像認識エンジン、検査システム | 25件 |
| 分析/予測システム | データ分析ツール、予測モデル | 18件 |
| セキュリティシステム | 認証システム、不正検知システム | 12件 |
補足説明：ソフトウェアシステムに関する特許が最も多く、特に機械学習の開発効率を向上させるためのフレームワークや支援ツールの開発が活発です。画像処理システムも多く、産業用途での実用化が進んでいることが伺えます。
2-4. 技術背景による分類
| 技術背景 | 内容 | 関連特許数 |
|---|---|---|
| データ量増大 | 大規模データ処理の効率化 | 25件 |
| 処理性能向上 | 高速化、リソース最適化 | 28件 |
| 精度向上要求 | 認識精度、予測精度の改善 | 32件 |
| コスト削減 | 開発・運用コストの低減 | 15件 |
補足説明：精度向上に関する課題を背景とした特許が最も多く、次いで処理性能の向上に関する技術が多く出願されています。大規模データの効率的な処理も重要な技術課題として認識されています。
2-5. 用途による分類
| 用途 | 具体例 | 件数 |
|---|---|---|
| 業務効率化 | 自動化、省力化 | 28件 |
| 品質向上 | 検査精度向上、不良検出 | 22件 |
| 予測/分析 | データ分析、将来予測 | 25件 |
| 安全性向上 | セキュリティ強化、リスク低減 | 15件 |
| 新サービス創出 | 新機能、新アプリケーション | 10件 |
補足説明：業務効率化を目的とした特許が最も多く、特に自動化による人的コストの削減を目指す技術が目立ちます。品質向上や予測・分析に関する用途も多く、産業界でのAI活用が本格化していることが分かります。
2-6. 課題による分類
| 課題 | 具体的内容 | 件数 |
|---|---|---|
| 学習効率 | 学習時間短縮、データ効率向上 | 35件 |
| 精度向上 | 認識精度、予測精度改善 | 30件 |
| リソース最適化 | メモリ使用量、計算コスト削減 | 20件 |
| 汎化性能 | 未知データへの対応力向上 | 15件 |
補足説明：学習の効率化に関する課題が最も多く、特に学習時間の短縮やデータ効率の向上に焦点を当てた技術が多く見られます。精度向上も重要な課題として認識されており、多くの特許で取り組まれています。
2-7. 解決手段による分類
| 解決手段 | アプローチ | 件数 |
|---|---|---|
| モデル構造改善 | ネットワーク構造最適化 | 28件 |
| 学習手法改善 | 効率的な学習アルゴリズム | 32件 |
| データ処理改善 | 前処理、データ拡張 | 25件 |
| システム最適化 | 実行環境の効率化 | 15件 |
補足説明：学習手法の改善に関する解決手段が最も多く、効率的な学習アルゴリズムの開発が活発に行われています。モデル構造の改善も多く、より効果的なネットワークアーキテクチャの研究が進んでいます。
2-8. 効果による分類
| 効果 | 具体的な改善点 | 件数 |
|---|---|---|
| 性能向上 | 認識精度向上、処理速度改善 | 35件 |
| コスト削減 | 開発コスト、運用コスト低減 | 25件 |
| 効率化 | リソース利用効率向上 | 22件 |
| 安定性向上 | 信頼性向上、ロバスト性改善 | 18件 |
補足説明：性能向上に関する効果を主張する特許が最も多く、特に認識精度の向上や処理速度の改善が重視されています。コスト削減効果も重要視されており、開発・運用コストの低減に貢献する技術が多く見られます。
2-9. 総括
本分析対象の特許群からは、機械学習技術の実用化に向けた取り組みが活発化していることが明確に見て取れます。特に、基盤技術の高度化と産業応用の両面で開発が進んでおり、学習効率の向上や精度改善に関する技術が中心となっています。また、製造業や医療分野など、具体的な応用分野での実装を意識した特許が増加傾向にあり、AIの社会実装が着実に進んでいることが示唆されています。技術的には、ニューラルネットワークの構造最適化や効率的な学習アルゴリズムの開発が主流となっており、より実用的で効率的なAIシステムの実現に向けた研究開発が進められています。
AIを使って、アイデアと類似する技術カテゴリ抽出
本テーマに関連する特許について、技術要素等をカテゴライズしました。
| 大カテゴリ | 中カテゴリ | 小カテゴリ | 説明 |
|---|---|---|---|
| 1. 機械学習アーキテクチャ | 1.1 ニューラルネットワーク構造 | 1.1.1 深層学習モデル | 複数の層を持つニューラルネットワークの基本構造に関する技術 |
| 1.1.2 畳み込みネットワーク | 画像処理等に用いられる畳み込み層を含むネットワーク構造 | ||
| 1.1.3 再帰型ネットワーク | 時系列データ処理のための再帰的な構造を持つネットワーク | ||
| 1.2 モデル最適化 | 1.2.1 パラメータ調整 | ネットワークの重みやバイアスの最適化手法 | |
| 1.2.2 勾配計算 | 誤差逆伝播法による勾配の計算と更新方法 | ||
| 1.2.3 損失関数設計 | 学習の目的に応じた損失関数の設計と実装 | ||
| 1.3 モデル圧縮 | 1.3.1 量子化技術 | モデルパラメータの量子化による軽量化技術 | |
| 1.3.2 プルーニング | 不要なネットワーク接続の削除による最適化 | ||
| 1.3.3 知識蒸留 | 大規模モデルの知識を小規模モデルに転移する技術 | ||
| 2. 学習方式 | 2.1 教師あり学習 | 2.1.1 分類学習 | ラベル付きデータを用いた分類モデルの学習技術 |
| 2.1.2 回帰学習 | 連続値の予測を行うモデルの学習手法 | ||
| 2.1.3 系列学習 | 時系列データに対する予測モデルの学習方式 | ||
| 2.2 教師なし学習 | 2.2.1 クラスタリング | データの自動分類によるパターン発見技術 | |
| 2.2.2 次元圧縮 | 高次元データの低次元表現への変換手法 | ||
| 2.2.3 異常検知 | 正常パターンからの逸脱を検出する技術 | ||
| 2.3 半教師あり学習 | 2.3.1 データ拡張 | 少量のラベル付きデータを活用した学習手法 | |
| 2.3.2 擬似ラベル生成 | 未ラベルデータへの自動ラベル付与技術 | ||
| 2.3.3 共同学習 | 複数のモデルの協調による学習方式 | ||
| 3. データ処理 | 3.1 前処理 | 3.1.1 正規化 | 入力データの正規化による学習効率の向上 |
| 3.1.2 ノイズ除去 | データノイズの除去による精度向上技術 | ||
| 3.1.3 欠損値処理 | 不完全データの補完と処理手法 | ||
| 3.2 特徴抽出 | 3.2.1 特徴量設計 | 効果的な特徴量の設計と抽出方法 | |
| 3.2.2 表現学習 | データの本質的な特徴表現の学習技術 | ||
| 3.2.3 特徴選択 | 重要な特徴量の選択と次元削減手法 | ||
| 3.3 データ品質管理 | 3.3.1 検証技術 | データの品質検証と評価手法 | |
| 3.3.2 クレンジング | データの清浄化と整備技術 | ||
| 3.3.3 バリデーション | データの妥当性確認手法 | ||
| 4. モデル評価 | 4.1 性能評価 | 4.1.1 精度評価 | モデルの予測精度の評価手法 |
| 4.1.2 汎化性能 | 未知データへの対応能力の評価 | ||
| 4.1.3 ロバスト性 | ノイズや外乱に対する耐性の評価 | ||
| 4.2 比較検証 | 4.2.1 モデル比較 | 異なるモデル間の性能比較手法 | |
| 4.2.2 パラメータ比較 | 異なるパラメータ設定の効果比較 | ||
| 4.2.3 手法比較 | 異なる学習手法の効果比較 | ||
| 4.3 検証手法 | 4.3.1 交差検証 | データ分割による検証手法 | |
| 4.3.2 性能指標 | 評価指標の設計と測定方法 | ||
| 4.3.3 統計的検定 | 性能差の統計的有意性の検証 | ||
| 5. 応用技術 | 5.1 自然言語処理 | 5.1.1 文章理解 | テキストの意味理解と分析技術 |
| 5.1.2 機械翻訳 | 言語間の自動翻訳技術 | ||
| 5.1.3 文章生成 | 自然言語テキストの生成技術 | ||
| 5.2 画像処理 | 5.2.1 物体認識 | 画像中の物体検出と認識技術 | |
| 5.2.2 セグメンテーション | 画像の領域分割技術 | ||
| 5.2.3 画像生成 | 新規画像の生成技術 | ||
| 5.3 音声処理 | 5.3.1 音声認識 | 音声の文字への変換技術 | |
| 5.3.2 話者識別 | 話者の個人特定技術 | ||
| 5.3.3 音声合成 | テキストからの音声生成技術 | ||
| 6. システム実装 | 6.1 分散処理 | 6.1.1 並列学習 | 複数プロセスでの並列学習技術 |
| 6.1.2 データ分散 | データの分散管理と処理技術 | ||
| 6.1.3 モデル分散 | モデルの分散配置と実行技術 | ||
| 6.2 最適化実装 | 6.2.1 メモリ最適化 | メモリ使用効率の改善技術 | |
| 6.2.2 計算効率化 | 演算処理の高速化技術 | ||
| 6.2.3 リソース管理 | システムリソースの効率的管理 | ||
| 6.3 運用管理 | 6.3.1 モニタリング | システム状態の監視技術 | |
| 6.3.2 エラー処理 | 異常時の対応と回復技術 | ||
| 6.3.3 バージョン管理 | モデルとデータのバージョン管理 | ||
| 7. 安全性・信頼性 | 7.1 セキュリティ | 7.1.1 データ保護 | 学習データの機密保護技術 |
| 7.1.2 攻撃対策 | 敵対的攻撃への対応技術 | ||
| 7.1.3 認証制御 | アクセス制御と認証技術 | ||
| 7.2 プライバシー | 7.2.1 匿名化 | 個人情報の匿名化技術 | |
| 7.2.2 差分プライバシー | プライバシー保護の数理的手法 | ||
| 7.2.3 データ制御 | センシティブデータの管理技術 | ||
| 7.3 信頼性担保 | 7.3.1 説明可能性 | モデルの判断根拠の説明技術 | |
| 7.3.2 公平性 | バイアスの検出と対策技術 | ||
| 7.3.3 追跡可能性 | 学習過程の追跡と検証技術 | ||
| 8. 知識転移・適応 | 8.1 転移学習 | 8.1.1 領域適応 | 異なるドメイン間での知識転移技術 |
| 8.1.2 事前学習 | 汎用的な事前学習モデルの構築 | ||
| 8.1.3 微調整 | 特定タスクへのモデル適応技術 | ||
| 8.2 継続学習 | 8.2.1 増分学習 | 新規データの追加学習技術 | |
| 8.2.2 オンライン学習 | リアルタイムでの学習更新技術 | ||
| 8.2.3 適応学習 | 環境変化への適応技術 | ||
| 8.3 統合学習 | 8.3.1 マルチタスク学習 | 複数タスクの同時学習技術 | |
| 8.3.2 アンサンブル学習 | 複数モデルの統合技術 | ||
| 8.3.3 協調学習 | 複数システム間の協調学習技術 |
\
AI特許調査
お問い合わせください
/
特許調査にAIを活用した新しい手法をご紹介しています。
自然言語処理や機械学習による効率的な文献探索、技術動向分析など、
具体的な活用方法について、ご不明な点やより詳しい情報が必要な際は、
お気軽にお問い合わせください。専門スタッフが丁寧にご説明いたします。
