ジェネレーティブAIの現状と活用事例等に関する基礎調査を行ない、その倫理的・社会的ガバナンスの側面からは機械学習以降のモダンAIと概ね同様に扱えばよいことを確認した。したがって出力に関する不確定性の問題が大きく、モダンAIと同様事前規制によることは困難であり、事後に行なわれる健全性検証・監査などが期待されることを確認した。また、具体的な問題として偽情報の根拠となる画像の捏造、パブリックコメント手続きなどにおいて似たような意見を多数創造し申し出られることといったケースが想定され、この対策として前者においてはAI作成物に対するウォーターマーク付加義務、後者については多数の意見の分析自体をジェネレーティブAIによって自動化する可能性などが展望された。これらの認識をもとに複数の論文を公表したほか、本研究を発展させた計画により2024～27年度の科学研究費補助金（基盤研究C）を獲得し、またJSPS学術知共創プログラム「偽情報と政治的分断に関する東アジア諸国を中心とした包括的研究」（研究代表者・粕谷祐子）において、その一部を構成する研究会を発足させることとした。研究成果については、研究代表者が座長を務めた総務省「AIによる行政に関する法的課題に係る検討会」の内容にも反映されている。
We conducted a basic survey on the current status of generative AI and its applications, and confirmed that, from the perspective of ethical and social governance, generative AI can be treated in the same way as modern AI after machine learning. Therefore, we confirmed that it is difficult to regulate generative AI in advance, as is the case with modern AI, due to the large uncertainty of its output, and that post-approval verification and auditing of its soundness are expected. In addition, the following two specific problems are anticipated: the fabrication of images as the basis of false information, and the creation and offer of many similar opinions in public comment procedures, etc. As countermeasures against the former, the obligation to add a watermark to AI-created products, and the possibility of using generative AI to automate the analysis of many opinions themselves, were discussed. Based on these perceptions, we have published several papers, and have been awarded a Grant-in-Aid for Scientific Research (C) for the period from 2024 to 2027 based on a plan to develop this research, as well as to launch a research group comprising part of the JSPS Academic Knowledge Co-creation Program "Comprehensive Study on Disinformation and Political Divisions with Focus on East Asian Countries" (Principal Investigator: Yuko Kasuya). The results of the research are also reflected in the contents of the Ministry of Internal Affairs and Communications' "Study Group on Legal Issues Related to Public Administration by AI," which the representative researcher chaired.
|
