面对“围剿”,OpenAI重磅发文:加强监管!ChatGPT一度暂停Plus付费升级服务,A股相关板块集体重挫_当前最新

4月5日,ChatGPT官网宣布,由于需求量过大,暂停Plus付费项目的购买,一度引发关注。目前该功能已恢复,并可进入付费环节。

值得注意的是,4月6日凌晨,Open AI在官网发布了《Our approach to AI safety》,以确保安全、可靠地为全球用户提供ChatGPT服务。

图片来源:Open AI公司官网


(资料图片)

建立广泛的安全和监控系统

Open AI表示,在发布任何新系统之前,我们会进行严格的测试,聘请外部专家进行反馈,通过人工反馈的强化学习等技术来改善模型的行为,并建立广泛的安全和监控系统。

例如,在我们的最新模型GPT-4完成培训后,我们花了6个多月的时间在整个组织中工作,以使其在公开发布之前更安全、更一致。

Open AI认为,强大的人工智能系统应该接受严格的安全评估。需要进行监管以确保此类做法得到采纳,我们积极与政府就此类监管的最佳形式进行接触。

图片来源:Open AI公司官网

从实践中学习、优化、改善

Open AI表示:在部署之前,我们努力防止可预见的风险,然而,在实验室中所能学到的是有限的。尽管进行了广泛的研究和测试,但仍无法预测人们使用我们技术的所有有益方式,也无法预测人们滥用我们技术的所有方式。

Open AI表示,随着时间的推移,从现实世界的使用中学习是创建和发布越来越安全的人工智能系统的关键组成部分。所以,从实践项目中学习、优化和改善产品,成为重中之重。

图片来源:Open AI公司官网

关键重点:保护儿童

我们安全工作的一个关键重点是保护儿童。我们要求年满18岁或13岁以上的人必须获得父母批准才能使用我们的人工智能工具,并正在研究验证选项。

我们不允许我们的技术被用于生成仇恨、骚扰、暴力或成人内容等类别。与GPT-3.5相比,我们的最新模型GPT-4响应不允许内容请求的可能性降低了82%,我们已经建立了一个强大的系统来监控滥用情况。现在,ChatGPT-Plus用户可以使用GPT-4,我们希望随着时间的推移,更多的人可以使用它。

我们已经做出了重大努力,最大限度地减少我们的模型生成伤害儿童的内容的可能性。例如,当用户试图将儿童性虐待材料上传到我们的图像工具时,我们会阻止并向国家失踪和被剥削儿童中心报告。

除了我们默认的安全护栏外,我们还与非营利组织Khan Academy等开发人员合作,该学院构建了一个人工智能辅助系统,既可以作为学生的虚拟导师,也可以作为教师的课堂助理,为他们的用例量身定制安全缓解措施。我们还在开发一些功能,允许开发人员为模型输出设置更严格的标准,以更好地支持想要这些功能的开发人员和用户。

图片来源:Open AI公司官网

尊重隐私

Open AI的大型语言模型是在广泛的文本语料库上训练的,这些文本包括公开可用的、许可的内容以及由人工审阅生成的内容。

Open AI不会使用数据来销售服务、做广告或建立人们的档案——会通过使用数据使大语言模型对人们更有帮助。例如,ChatGPT 通过与人类之间进行的对话,以进一步培训和改善产品。

图片来源:Open AI公司官网

ChatGPT恢复Plus订阅服务

4月5日,ChatGPT官网宣布,由于需求量过大,暂停Plus付费项目的购买。

这一情况在社交平台Reddit上引起讨论,有网友表示因为需求过高而关闭付费服务“一点也不奇怪,(和ChatGPT对话时)10%-15%的回复会出现网络错误情况,且回应速度比以前至少慢了2倍”。

也有不少网友将这一情况归咎为OpenAI人手不足。此前1月,该公司的首席执行官Sam Altman曾在推特上表示,该公司的总人数为375人,远远小于大型科技公司的员工数量。

《科创板日报》今早实测发现,OpenAI的ChatGPT已经恢复了Plus订阅服务,并可进入付费环节

ChatGPT风险引发多国警惕!千人联名呼吁暂停

继意大利宣布禁用ChatGPT后,多国政府和企业开始调查或采取措施限制使用该软件。据加拿大广播公司(CBC)4日报道,加拿大联邦隐私监管机构宣布,已经对开发ChatGPT的美国公司OpenAI展开调查,因为该公司涉嫌“未经同意收集、使用和披露个人信息”。报道同时提到,美国总统拜登及其科技顾问委员会在4日举行的会议上也讨论了人工智能的“风险和机遇”。英国《卫报》4日称,英国信息专员办公室已经向科技公司发出警告,不要使用个人信息来开发聊天机器人。英国信息专员办公室技术和创新总监阿尔蒙德表示,类似ChatGPT的生成式人工智能“如果被不负责任地使用,有可能对数据隐私构成风险”。

据第一财经,上周,包括OpenAI共同创始人马斯克在内的上千名科技领袖通过非营利组织未来生命研究所(FLI),签署一份联名信,呼吁OpenAI暂停对GPT的训练,理由是对社会的潜在风险。这份联名信引用了包括OpenAI、谷歌及其子公司DeepMind等机构的12项研究。

不过这份联名信已经引发了激烈的争辩。一些人工智能权威人士认为,人工智能的威胁被夸大了。

清华大学智能产业研究院首席研究员聂再清对第一财经记者表示:“我认为GPT-4主要还是人类助手和提升效率的工具,而且是完全在人类的控制下工作的,暂停6个月的训练这一要求过于一刀切了。”

ChatGPT概念股集体重挫

4月6日,AI应用端相关板块陷入调整,ChatGPT概念股领跌,截至午盘,中文在线(300364)跌超8%,鸿博股份(002229)跌超7%、海天瑞声跌超6%。

每日经济新闻综合Open AI官网、科创板日报、澎湃新闻、公开资料

免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。

封面图片来源:视觉中国(000681)-VCG111421680440

标签:

最近更新

面对“围剿”,OpenAI重磅发文:加强监管!ChatGPT一度暂停Plus付费升级服务,A股相关板块集体重挫_当前最新
2023-04-06 14:46:37
蔡英文见麦卡锡 “一个中国”横幅飞过会场上空
2023-04-06 13:24:41
水凝膜是不是不抗摔 水凝膜对手机有保护作用吗|每日时讯
2023-04-06 12:18:52
收养人不履行抚养义务如果一方不同意解除收养关系的怎么办?
2023-04-06 11:20:32
当前滚动:拉丁美洲和加勒比地区11个国家达成协议 将加强合作应对通胀
2023-04-06 10:36:34
湖州2023年计划筹集保障性租赁住房一万五千余套 天天实时
2023-04-06 10:04:20
馨怎么读拼音_馨怎么读
2023-04-06 09:04:30
全球微动态丨山东青州:“点线面”发力 护航营商环境持续优化
2023-04-06 08:08:29
今日要闻!经济可能正在走弱 这对加息意味着什么
2023-04-06 03:11:01
天天观热点:六角恐龙吃什么饲料(六角恐龙喂饲料喂多少)
2023-04-05 22:32:57
消息!keds小白鞋怎么洗 如何洗小白鞋
2023-04-05 20:44:48
当前快讯:翔丰华:2022年归母净利润同比大增60.9%,约为1.6亿元
2023-04-05 18:45:18
暴雪3A生存游戏招募新制作人 暴雪老板已经玩过了
2023-04-05 17:20:34
曝切尔西老板对新帅提5要求!拟7人候选名单,巴萨功勋愿立即上任|天天观天下
2023-04-05 15:43:22
浮华独爱已不再是缨络简介(浮华独爱)|天天微资讯
2023-04-05 14:10:06
成都外卖小哥制服闹市持刀男子获奖励 他称以后遇到这种事还会冲上去_当前速看
2023-04-05 12:24:16
科学新发现丨暴饮暴食者脑回路类似吸毒
2023-04-05 11:00:08
【环球快播报】以下式神中声优和其他不一样的是阎魔_以下式神中声优和其他不一样的是
2023-04-05 09:48:27
强化应急处置能力 全力以赴筑牢森林草原“防火墙”
2023-04-05 08:02:51
【五周年庆典】一起听听创作者、选手和解说们送来的五周年祝福吧~-今日看点
2023-04-05 04:12:23
河北今年全面完成城市社区和单位庭院合流制排水管网雨污分流改造
2023-04-04 23:00:29
家门口也有“诗和远方”!上海涌现全新“露营 ”商业模式,你喜欢吗?
2023-04-04 21:43:36
衡水五中最新发生的事件桃城学
2023-04-04 20:27:23
每日速看!李杰任东吴基金副总经理
2023-04-04 19:16:14
中国人事考试网:2022年一建考试成绩4月中旬发布
2023-04-04 18:03:34
芷江:河长力行 山河如画-全球热资讯
2023-04-04 17:17:28
开封通许县冯庄乡开展“五星”支部创建暨人居环境观摩活动-当前报道
2023-04-04 16:11:35
世界视点!《不止不休》发布推广曲《选择》MV 白客一腔孤勇守护正义微光
2023-04-04 15:28:24
环球关注:荷花简介有哪些?
2023-04-04 14:47:23
全球今亮点!五部门部署加快港口码头改扩建
2023-04-04 14:00:43