大規模言語モデルにおいて有害な振る舞いを学習不能にする手法｜日本福祉大学の研究

セキュリティベクトルを用いて、微調整の過程で有害な振る舞いの学習を抑制しつつ他の情報の学習能力を維持する制御可能なトレーニングフレームワークを提案した。

この要約は、論文の要旨をもとに当社が付けたものです。正確な内容は原文で確かめてください。

掲載	2024年1月1日
東海・関東の大学の著者	Yujian Wei（日本福祉大学）
著者（全員）	Xin Zhou、Yi Lu、Ruotian Ma、Yujian Wei、Tao Gui、Qi Zhang、Xuanjing Huang
被引用	5（OpenAlex）
原文	https://doi.org/10.18653/v1/2024.findings-acl.611

同じテーマの国会の議論国会の質疑・答弁 524件

答弁2026年7月10日　衆議院内閣委員会　若山慎司
…確保するため、行政事務におけるＡＩ利活用時の留意点の整理を行うということを進めてまいりたいと考えております。また、ＡＩエージェントのお話でございますが、体制構築に関する御指摘については、本日決定をいたしましたＡＩ基本… 会議録
質問2026年7月10日　参議院デジタル社会の形成及び人工知能の活用等に関する特別委員会　岩本麻奈
…に必要なのか、デジタル基盤とかＡＩネットワークでは実現できない理由は何かというのをちょっと考えております。最近は、やはりＡＩエージェントが研究者同士を結び、ＧＰＵや研究クラウドが全国の大学をつないでいる時代です。この横… 会議録
答弁2026年7月8日　参議院デジタル社会の形成及び人工知能の活用等に関する特別委員会　小野田紀美
…ては、六月十九日から二十三日まで実施して、国民の皆様から約九千件の御意見をいただいたところです。主な意見としては、ＡＩエージェントについて、リスクの抑制と円滑な実装の両立に向けた技術的、制度的な整備が重要であることや… 会議録

答弁2026年7月15日　衆議院経済産業委員会　恒藤晃
…とが期待される一方で、様々なリスクも存在するということは認識してございます。これに対応するため、昨年五月に成立したＡＩ法におきましては、イノベーションの促進とリスク対応の両立を理念として掲げまして、イノベーションを阻… 会議録
質問2026年7月15日　参議院憲法審査会　原田秀一
…不当にゆがめ、民主主義を前提から掘り崩しかねないものであって、これらへの対策は急務です。欧州のデジタルサービス法、ＡＩ規制、偽情報に関する行動規範などの知見も踏まえ、情報の内容の当否への国家の介入をなるべく避け、事業… 会議録
答弁2026年7月10日　衆議院内閣委員会　恒藤晃
ＡＩ法に基づきます人工知能基本計画、いわゆるＡＩ基本計画につきましては、昨今の状況の変化を踏まえまして、改定に向けた検討を進めてきたところでございますが、本日の朝、総理大臣を本部長といたしますＡＩ戦略本部が開催されまして… 会議録

質問2026年7月8日　参議院デジタル社会の形成及び人工知能の活用等に関する特別委員会　郡山りょう
ありがとうございます。やはりデジタル民主主義等をしっかりと今後動かしていくに当たっては、こういった生成ＡＩによる主導を、引っ張っていくような、こういったところをどうスクリーニングして、声の大きいではなくて、それは多分コ… 会議録
答弁2026年6月22日　衆議院予算委員会　高市早苗
…会館の事務所にも奈良の事務所にも確認をした上で、Ｘに投稿して注意喚起をしました。うちの秘書の認識ですけれども、何かブロードリスニングという国民の声を集める企画がある、そのアプリの中でのインセンティブということでポイン… 会議録
参考人2026年4月15日　参議院資源エネルギー・持続可能社会に関する調査会　山下紀明
…はどういうふうに地域に役立つのか、そういうことを議論する必要がございます。そのときに役立つのが、次に書いている地域主導で市民参加型の仕組み、そしてそれを支援する中間支援団体をつくっていくことです。再生可能エネルギー、ど… 会議録

質問2026年7月27日　衆議院予算委員会　豊田真由子
…設けるといった法的、社会的規制を事業者に更に求めるべきだという動きが高まっております。また、リスクの高い内容については、ＡＩなどによる検知、削除、警察への通報を求めるなど、より一層の実効性ある強力な措置を講ずるべきでは… 会議録
答弁2026年7月15日　衆議院内閣委員会　山田好孝
…被害が過去十年で最多の百六十七人となるなど、性被害の低年齢化の傾向が見られるところでございます。また、児童の画像を生成ＡＩなどにより性的に加工し悪用した、いわゆる性的ディープフェイク被害といった新たな類型の性被害も見… 会議録
質問2026年7月13日　参議院本会議　金子道仁
…考えますが、総務大臣のお考えを伺います。今回の政策評価のための実証的共同研究で、少年院の入院者のアンケートや日記を生成ＡＩで分析し、再犯要因の関連性や在院中の心情変化を可視化して政策効果を検討するという先駆的な取組が… 会議録

論文の内容と国会の議論は、テーマが同じものを並べています。著者が国会で発言したという意味ではありません。

出典：OpenAlex（CC0）、国会会議録検索システム。掲載内容の訂正・削除のご依頼はお問い合わせから。