爬越企服-爬越算法备案代办

快速导航

联系客服

客服橙子

  • 微信二维码

  • 13360330306

  • cz@payue.com

算法备案

代办互联网信息服务算法备案、深度合成备案填报,电话13360330306,微信同号

算法和大模型备案中,什么是社会动员能力?什么是舆论属性?

  •  更新时间:2024/12/10
  •  点击量:134
  •  分享

在大模型备案的语境中,社会动员能力和舆论属性是评估生成式人工智能服务影响力和潜在风险的重要维度。以下是两者的具体解释:

一、社会动员能力

社会动员能力指的是一种能够整合社会资源、调动公众积极性,以推动实现特定目标或活动的力量。在生成式人工智能服务的背景下,拥有社会动员能力的模型或服务通常能够吸引大量用户的关注、讨论和参与,进而对社会产生广泛的影响。这种能力可能源于模型生成的内容具有吸引力、说服力或激励性,能够激发公众的共鸣和行动。

具体来说,具有社会动员能力的生成式人工智能服务可能包括那些能够引发公众讨论、形成社会共识、推动社会变革或影响公众行为的模型或服务。例如,一个能够生成具有感染力和说服力的文本的模型,可能会激发公众对某个社会问题的关注,进而推动社会变革。

二、舆论属性

舆论属性则是指生成式人工智能服务所生成的内容能够引发公众舆论或社会关注的特性。这种属性通常与模型生成内容的主题、观点、表达方式等因素密切相关。具有舆论属性的生成式人工智能服务可能会对社会舆论产生显著影响,甚至引导或改变公众对某些问题的看法和态度。

具体来说,具有舆论属性的生成式人工智能服务可能包括那些能够生成具有争议性、敏感性或广泛讨论价值的内容的模型或服务。例如,一个能够生成涉及社会热点、政治敏感或伦理道德等话题的文本的模型,可能会引发公众的广泛关注和讨论,进而形成社会舆论。

在大模型备案中,对社会动员能力和舆论属性的评估是确保生成式人工智能服务合规性和安全性的重要环节。通过评估这些属性,监管部门可以更好地了解模型或服务可能产生的社会影响,从而采取相应的监管措施来确保公众利益和社会稳定。同时,这也要求企业在开发和使用生成式人工智能服务时,要充分考虑其社会影响和责任,确保技术的健康发展和社会价值的最大化。


一家之言:传统的发帖、评论留言都是舆论属性,然后对于AI来说,因为用户的交互而产生互动(包括对话、AI生成),每次互动结果可能都不一样,则可能引起舆论影响,产生社会动员能力,则可定义该互联网信息服务产品具备舆论属性。

举例:1、邮箱是否具备舆论属性?因为可以发邮件给他人,可以跟他人互动,则肯定是能引起舆论影响,和微信聊天是一个性质。2、个人网盘是否具备舆论属性?一般网盘可以不认为具备舆论属性,因为个人网盘只是个人储存文件,每次上传文件可以不一样,但是得到的结果是一样的,每次都是告知上传成功、下载成功等状态;但是如果具备网盘文件的分享功能,则会被判定为具备舆论属性3、个人博客网站是否具备舆论属性?若纯粹是展示,不具备评论、投票、分享功能,则不具备舆论属性。4、文心一言是否具备舆论属性?文心一言每次发送信息过去,即使相同信息,得到的信息也可能是不一样的,由于不同人的指令,可能产生不一样的结果,这个是AI的神奇之处,在不同人手里的效果是不一样的,因为每次互动结果可能都不一样,则可能会让人分享出去,借助这个AI生成的结果让人广为传播,从而引起舆论影响。比如我把我公司产品给到AI,让AI美化赞扬一下用来品牌营销,则信息发送者本人可能会利用这个结果如截图、分享、复制等各种形式去到处去宣传。《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》所称具有舆论属性或社会动员能力的互联网信息服务,包括下列情形:(一)开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能;(二)开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。