成哥智能网

市场分歧加剧！AI概念炒作结束了吗？

Wed, 03 Apr 2024 15:08:29 +0800

关于AI，每个人都会承认它本身是一个极具潜力的方向，甚至是下一代技术革新的代表。但其商业化进程、行业格局、隐私安全等方面则出现了不同的观点。

AI概念股集体大跌

美东时间周三，美股人工智能概念股延续跌势，BigBear.ai控股跌超18%，C3.ai跌超15%，SoundHound AI跌超12%。

消息面上，当地时间4月4日，美国白宫官员表示，美国总统拜登于当地时间周二在白宫与科技顾问举行会议，讨论人工智能(AI)给人类、社会和国家安全带来的“风险和机遇”。

美国总统拜登表示，人工智能可以帮助应对疾病和气候变化，但也必须应对其潜在的风险。科技公司有责任确保其产品在公开之前是安全的。人工智能是否存在威胁还有待观察。

此外，据法新社4日消息，加拿大隐私专员办公室4日宣布开始调查chatgpt背后的公司openai，涉及“指控openai未经同意收集、使用和披露个人信息”的投诉。

另一方面，知名做空基金Kerrisdale Capital针对美股最火AI股——C3.ai发布了一份空头报告，其中指出，C3.ai使用高度激进的会计手段来夸大其损益表指标，以满足卖方分析师对收入和某些利润指标的估计，并掩盖其基础业务的显著恶化趋势。

在海外，对于是否应该暂停高级AI的研发，也成为行业大佬热议的焦点。围绕着以ChatGPT为代表的AI大模型的争议源源不断。此前由马斯克、图灵奖得主Bengio等千人联名的暂停高级AI研发的公开信，目前签名数量已上升至9000多人。

作为坚定的人工智能拥护者，比尔盖茨在本周接受英国媒体专访时指出，暂停AI研发无法解决问题，应当把注意力放在如何最好地利用人工智能的发展上。

马斯克则与比尔盖茨相反。早在2月，马斯克就强调，人工智能是未来人类文明最大的风险之一，需要加强安全监管。“它有积极的一面，也有消极的一面，有巨大的前景也有巨大的能力，但随之而来的危险也是巨大的。”他表示。

对于AI，各方分歧加剧

与此同时，在今日的A股市场上，截止收盘，三六零、汉王科技、海天瑞声、汤姆猫等概念股集体调整。

值得注意的是，近期随着AI相关概念股持续爆发，机构间的分歧开始加剧，还有部分私募创始人在社交平台上各抒己见。

4月4日，神农投资总经理陈宇和东方港湾创始人但斌在社交媒体上展开了观点的交锋。陈宇称，这次的AI行情是一次“有意义的乱炒”，又一个将催生诸多百倍股、千倍股的时代浪潮终于来了。

对此，但斌表示：“我相信ChatGPT、人工智能代表未来，但其垄断性、开发使用成本只会让极少数公司拥有未来，这一波概念炒作一旦被套，不知道‘猴年马月’解套。”陈宇则表示，但斌是本轮AI泡沫的反指，当但斌大举买入AI之时，就是AI泡沫破裂之日。但斌回复称：“现在已经持有全球最重要的AI企业，而且是ChatGPT概念的龙头企业。”

与此同时，公募基金是否追加TMT板块配置也成为市场关注焦点。从券商测算数据来看，公募基金确实在加大对TMT板块的配置。

兴业证券统计结果显示，近期主动偏股型基金或正在加速向TMT板块调仓。3月中旬以来，业绩偏离程度较大的基金数量占比快速抬升，截至4月3日，该比例为15.2%。从“实际涨幅-估算涨幅>1%”的基金数量占比和规模占比来看，偏离度与TMT板块超额收益整体趋势相近，或指向说明主动偏股型基金近期正向TMT板块切换。

但也有券商表示相关板块估值已到高点。华创证券最新发布的研报表示，AIGC和人工智能指数均创历史新高，从行业成交热度看，计算机、传媒、通信均接近历史峰值，历史上主题行情中，相对成交热度短期触顶后，相关板块通常需要时间消化估值，半年内可能无超额收益。

A股本轮炒作还处在概念和情绪阶段

而在这些分歧背后，其实是对本轮AI行情是否即将结束的不同判断。

通常一个新兴板块的炒作有三个阶段。第一个阶段，纯属于概念炒作，什么热，资金往哪个板块蜂拥而入。这个阶段的结束往往以市场上概念龙头股价翻多倍为标志，然后戛然而止。

第二个阶段，相关产业实际应用落地产生了实打实的利润，这时候企业的市值增长就开始靠利润驱动了。以chatgpt商业应用连接接口为例，如果将来所有的应用都结合AI，那么这个产业落地了，意味着人工智能真的产生了实打实的利润，机构大资金往往会在这个阶段进入。

最后一个阶段，产业链成熟，企业的市盈率稳定。

从目前来看，A股的相关公司炒作还停留在第一阶段。多家相关公司也表示AI业务还没有带来明显的业绩收入。

4月4日，美亚柏科表示，ai技术产生的销售收入对公司短期经营业绩不构成重大影响。

3月29日，海天瑞声公告，截至本公告披露日，公司未与openai开展合作，其包括chatgpt在内的gpt类产品和服务未给公司带来业务收入。

3月24日，昆仑万维表示，目前公司AIGC、人工智能等业务产品尚未产生实际收入。

不过，既然还处在概念炒作阶段，那么只要有消息情绪的刺激，概念炒作就没有那么容易结束。

值得注意的是4月多家公司的大语言模型将发布。中信证券表示，华为盘古大模型发布在即，此前，百度已发布“文心一言”大语言模型。此外，阿里、腾讯、商汤、三六零等巨头也正加速大模型布局，如商汤科技的多模态多任务通用大模型“书生(INTERN)2.5”、阿里巴巴多模态大模型M6、腾讯混元AI大模型等。

因此，短期内AI仍会有消息面利好刺激，而上述几家公司的AI产品商业化进程将在很大程度上影响AI概念何时进入第二个阶段。

澳洲地方市长准备就 ChatGPT 内容提起全球首例诽谤诉讼

Fri, 25 Aug 2023 18:06:32 +0800

站长之家4月7日消息:回应严密、准确的事实并不是 ChatGPT 的强项。众所周知，OpenAI 创建的大型语言模型会为自己的目的编造信息 —— 完全是为了快速生成流畅的文本或完成任务。但是 ChatGPT 是否对其虚假信息负法律责任？其背后的公司是否需要承担责任？

打开凤凰新闻，查看更多高清图片

一位澳大利亚地方市长正在寻找答案，这可能成为有史以来第一个针对人工智能的诽谤诉讼。根据路透社的报道，如果 OpenAI 没有充分解决和纠正 ChatGPT 中出现的关于他的错误信息，赫本郡的地区市长 Brian Hood 准备起诉 OpenAI。

据报道，人工智能错误地将 Hood 称为已被定罪的罪犯，参与了澳大利亚储备银行（RBA）过去的一个真实的贿赂丑闻。2011 年，澳大利亚储备银行的一个子公司 —— 澳大利亚票据印刷公司的高管被认定犯有共谋贿赂外国官员罪。违法行为发生在 1999 年至 2004 年间。多名官员因参与犯罪而被判刑。

然而，Hood 从未被发现在 RBA 丑闻中犯有任何罪行。他从未被指控。事实上，Hood 是将不当行为曝光的爆料者—传说中的英雄，而不是故事中的恶棍。

据报道，他的律师已经向 OpenAI 发出了一份关注通知——这是澳大利亚诽谤诉讼的第一步。OpenAI 有 28 天的时间来回应关注通知，在此之后，Hood 先生将能够根据澳大利亚法律将该公司告上法庭。如果他提出法律索赔，这将是 OpenAI 首次公开面对 ChatGPT 创建的内容的诽谤诉讼。

自 2022 年 11 月推出以来，已有数百万人使用 ChatGPT。它可以使用自然的、类似人类的语言回答问题，它还可以模仿其他写作方式，使用 2021 年的互联网作为其数据库。微软在它身上花费了数十亿美元，它于 2023 年 2 月被添加到必应中。

当人们使用 ChatGPT 时，他们会看到一个免责声明，警告说它生成的内容可能包含「关于人、地点或事实的不准确信息」。

在其关于该工具的公共博客上，OpenAI 说，它的一个局限性是「有时会写出听起来很有道理但不正确或无意义的答案」。

A股午评：创业板指涨近1%，ChatGPT概念股再度活跃

Fri, 25 Aug 2023 17:56:27 +0800

市场早盘震荡反弹，三大指数均小幅上涨，创业板指领涨。

南财金融终端显示，截至上午收盘，沪指涨0.36%，深成指涨0.83%，创业板指涨0.93%。

打开凤凰新闻，查看更多高清图片

总体上个股涨多跌少，两市超3100只个股上涨。

盘面上，ChatGPT概念股再度活跃，应用方向走强，其中医疗信息化概念股领涨，久远银海4天3板，东软集团涨停；

游戏股震荡反弹，神州泰岳涨超18%，汤姆猫涨超9%；

影视股震荡走高，中文在线涨超17%，上海电影、奥飞娱乐涨停。

房地产板块开盘走强，粤泰股份、天保基建、中交地产涨停，华发股份涨超7%创历史新高。

创新药概念股集体大涨，首药控股20CM涨停，海创药业、迪哲医药等多股涨超10%。

下跌方面，半导体板块陷入调整，C华海跌近10%。

沪深两市今日成交额6653亿，较上个交易日缩量605亿。截至午盘，中兴通讯成交额居首，成交额超75亿元，其次为三六零成交额为60.44亿元，东方财富成交额为53.82亿元。

ChatGPT 每月用的电已经够一个小城镇生活

Fri, 25 Aug 2023 17:46:22 +0800

在 GPT-4 惊艳亮相并激发各类生成式 AI 极快迭代的同时，ChatGPT 自身也遇到了不少阻力。马斯克跟科学家们关于暂停大型 AI 实验的公开信已经征集到近 1.3 万人签字，英国、意大利等国也相继发布了限制政策。

不过反对的声音没能压住用户需求，后者已经先让 OpenAI 有些扛不住了。继上周大面积封号后，OpenAI 昨天又主动暂停了 ChatGPT Plus 会员的售卖（截至今天上午已经恢复）。官方称暂停升级的原因是需求量过大。

根据流量监测网站 Similarweb 最新统计数据，今年 3 月 ChatGPT 吸引了全球近 16 亿次用户访问，较 2 月增长近六成，是 1 月时访问量（5.9 亿次）的近 3 倍。访问量激增同时带来算力需求和能耗成倍数增长。

假设每个用户平均每次访问提 5 个问题（微软 New Bing 平均提问轮数约为 3 次，而 ChatGPT 不限制回合数），则 ChatGPT 上个月总咨询次数接近 80 亿次，对应日咨询量约为 2.7 亿次。

这还没算上其他应用通过 API 访问 ChatGPT 所产生的消耗。但已经极其消耗资源。

已知 1 张 A100 GPU 推理 1 个单词大约需要 0.35 秒。假设每个提问长度约 30 个字 / 单词，则 ChatGPT 每天需要处理 80 亿字咨询量，用一张 A100 GPU 来跑需要约 78 万小时，对应每天需要约 3.24 万张 A100 GPU。以上只是平均数值，考虑到访问流量存在峰值，OpenAI 如果想完全响应用户请求，需要储备的 GPU 数量还要高出好几倍。

紧张的不光是算力。

前述 3.24 万张 A100 GPU 大约等同于 4000 台英伟达 DGX A100 服务器（搭载 8 张 A100 GPU），后者售价 19.9 万美元 / 台，最大功率为 6.5 kW。

以此推算 ChatGPT 硬件成本至少为 8 亿美元，其 3 月耗电量约为 1872 万 kWh。每处理一次用户请求的耗电量，相当于 60 瓦的灯泡亮 140 秒。这样一来，项目光是电费就得交近 200 万美元。

2021 年中国居民人均生活用电约 68 kWh/ 月，ChatGPT 单月耗电量差不多跟 27.5 万中国人相当。（邱豪）

研究：ChatGPT影响用户道德判断

Fri, 25 Aug 2023 17:36:16 +0800

　　根据《科学报告》发表的一项研究，人类对道德困境的反应可能会受到人工智能对话机器人ChatGPT所写陈述的影响。这一研究表明，用户可能低估了自己的道德判断受ChatGPT影响的程度。团队认为，对话机器人影响人类道德判断的可能性，凸显出有必要通过教育帮助人类更好地理解人工智能。他们建议未来的研究可以在设计上让对话机器人拒绝回答需要给出道德立场的问题，或是在回答时提供多种观点和警告。(科技日报)

　　相关阅读

　　OpenAI发文介绍保障AI安全的方法

据上证报，美国当地时间4月5日，ChatGPT研发者OpenAI在其官方博客中发布了题为《Our approach to AI safety》(《我们保障AI安全的方法》)的文章，介绍了该公司确保AI模型安全性的部署。该文章介绍了六个方面的部署，一是构建越来越安全的AI系统，二是从实际使用中积累经验以改善安全措施，三是保护儿童，四是尊重隐私，五是提高事实准确性，六是持续研究和参与。在隐私方面，OpenAI表示努力在可行的情况下从训练数据集中删除个人信息，微调模型以拒绝对私人信息的请求，而且能响应用户从OpenAI的系统中删除个人信息的请求。

　　全球首例！澳洲地方市长或就诽谤信息起诉ChatGPT

　　最近，ChatGPT大火之下受到很多行业和大佬的吹捧，但也有一些人坚决抵制。

　　尤其是基于目前ChatGPT的状态，已经成了谣言聚集地。

　　最新报道称，澳大利亚墨尔本西部赫本郡的市长布赖恩.胡德指控OpenAI旗下的ChatGPT对其进行诽谤，或将对该公司提起诉讼，因为该聊天机器人在回答问题时错误地声称他是某些丑闻的有罪方。

　　值得注意的是，一旦正式提起，这将是全球首例针对生成式AI的诽谤诉讼。

　　随着生成式AI造成的虚假信息泛滥，ChatGPT等工具受到诽谤诉讼或许只是时间问题。

　　这类问题此前就已经被某些知名人士提到，比如爱奇艺龚宇就表示，某些问题ChatGPT会一本正经的胡说八道。

　　他表示，通过大量地与ChatGPT对话，发觉它目前经常“一本正经地胡说八道”：语法、逻辑都对，但你仔细深究，那些深刻的问题，它的回答特别套路，特别没有营养。

　　另外，之前也有不少体验过的用户吐槽，ChatGPT很多时候在遇到无法检索的问题时，会强行编造出来一个回答，看似语法顺畅，但信息全都是胡编乱造。

来源: 同花顺7x24快讯

举报/反馈

全球监管山雨欲来：ChatGPT为何成为多国的“眼中钉”？

Fri, 25 Aug 2023 17:26:09 +0800

目前，世界各国对ChatGPT的调查有着愈演愈烈之势。

图据加拿大隐私专员办公室官网

继意大利开出对ChatGPT的首张“禁令”后，当地时间4月4日，加拿大隐私专员办公室宣布，将对ChatGPT背后的公司OpenAI展开调查。

从意大利到加拿大，为何多国对ChatGPT的监管信号频频放出？持续加剧的监管风暴又是否将席卷全球？对此，潮新闻记者采访了北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括以及南京航空航天大学网络与人工智能法治研究院副院长、副研究员李宗辉。

多国释放监管信号

为何都聚焦数据安全隐患？

加拿大成为又一个对ChatGPT“出手”的国家。

据加拿大隐私专员办公室官网，对于调查OpenAI的原因，该机构表示，其涉嫌“未经同意收集、使用和披露个人信息”。隐私专员PhilippeDufresne说：“我们需要跟上并保持领先于快速发展的技术进步。”

而在稍早之前，意大利成为全球首个禁用ChatGPT的国家，引发广泛关注。当地时间3月31日，意大利个人数据保护局宣布，从即日起禁止使用ChatGPT，并限制OpenAI处理意大利用户信息，同时开始立案调查。

吴沈括表示，意大利和加拿大都是从数据安全和数据保护的角度来看待ChatGPT的应用风险，从数据治理和监管的层面来介入调查，但这并不是直接否定这种技术应用的合法性。

图据OpenAI官网

面对以ChatGPT为代表的生成式AI的迅速崛起，为何多国都率先将关注焦点放在数据安全领域？

在意大利禁用ChatGPT之前，一次严重的个人数据泄露事故成为触发监管的“导火索”——当地时间3月20日，多名ChatGPT用户发帖称，其账号下的聊天历史栏出现了其他用户的聊天记录，致使OpenAI一度暂时下线聊天历史功能。

3月23日，OpenAI首席执行官SamAltman在社交媒体表示，该问题是由开源代码库的一个程序错误导致，会有小部分用户可以看到其他用户的聊天记录标题，目前开发团队已发布修复程序，并完成验证。

但大众对ChatGPT的担忧并未被抹去。3月底，韩国三星半导体部门发生了3起因员工在ChatGPT上输入设备信息及重要会议摘要，导致公司机密外泄风险陡增的事件，因此多家韩企正在采取限制使用ChatGPT的措施，严防员工泄密。

互联网时代，数据安全的重要性不言而喻。美国理论家马克·波斯特曾将信息社会比作“超级全景监狱”，以此来表明暴露于网络环境中的大众毫无隐私可言。而ChatGPT令人吃惊的数据抓取能力，使大众对其隐私泄露的风险更加倍感担忧。

李宗辉认为，ChatGPT的出现可能会使个人的自我保护失灵，因为ChatGPT已经与互联网的各种技术和服务深度融合，这使每个人都可能暴露在隐私泄露的高风险之中。

“ChatGPT的运行基础是海量的数据，所以多国监管机构从数据流转利用的角度强调了个人信息保护的重要性，以及在这些场景当中所伴随的风险。”吴沈括表示。

全球范围的监管山雨欲来

如何影响人工智能立法？

ChatGPT的横空出世，让越来越多的国家开始警惕它的大规模应用。

当地时间4月4日，美国总统拜登与科技顾问举行的会议上，讨论了人工智能的“风险和机遇”。白宫官员称：“总统将讨论保护权利和安全的重要性，以确保负责任的创新和适当的保障措施。他将呼吁国会通过两党隐私法，以保护孩子，并限制科技公司收集我们所有人的个人数据”。

上周，美国科技伦理组织人工智能和数字政策中心要求美国联邦贸易委员会组织OpenAI发布新的GPT-4商用版本，理由是GPT-4“有偏见性，欺骗性，对隐私和公共安全构成风险”。

此外，GPT-4还引发一众科技和学术界名流联名呼吁暂停研发。（此前报道）

欧洲国家则在意大利的“带领”下，准备付诸行动。据环球时报报道，德国联邦数据保护专员发言人表示，德国可能会效仿意大利，暂时禁用ChatGPT，原因同样是数据安全问题。法国和爱尔兰的隐私监管机构也表示，已与意大利数据监管机构联系讨论其调查结果。

另据环球时报援引日经新闻网报道，出于对信息泄露的担忧，包括软银、日立、富士通、三菱日联银行和三井住友银行在内的日本公司已开始限制在业务运营中使用ChatGPT等交互式人工智能服务。

由ChatGPT引发的种种担忧，使各国在人工智能领域的监管风暴愈演愈烈。

吴沈括表示，这些国家的监管举措的出台，很有可能产生多米诺骨牌效应，引起其他各国的效仿。因为各国对ChatGPT应用场景的风险的关切是一致的，所以监管立场也会有趋同的可能性。

李宗辉也认为，随着ChatGPT应用过程中侵权和违法现象日益增多，以及各国类似的人工智能产品的研发和推广，肯定会有更多国家加强人工智能领域的监管。“一方面是对现有的个人信息保护、知识产权、网络安全、数据安全、科技管理法律规范的进一步适用，另一方面可能会加强制定相应的技术标准，更新人工智能的伦理规范，加强特定领域的立法。”

图据新华社

2021年，欧盟就曾提出《人工智能法》草案，对人工智能的风险级别进行了分级处理。李宗辉表示，ChatGPT的出现将影响欧盟现有的人工智能技术或产品的风险等级的评定。

反观我国，在人工智能领域也已出台相关规则。2021年9月，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。

“随着ChatGPT的出现以及人工智能的迅速发展，我国已有的伦理规范也将不断更新和调整。”李宗辉表示。

（来源：潮新闻）

更多精彩资讯请在应用市场下载“极目新闻”客户端，未经授权请勿转载，欢迎提供新闻线索，一经采纳即付报酬。

举报/反馈

多国拟发ChatGPT禁令关“野兽”的笼子要来了？

Fri, 25 Aug 2023 17:16:05 +0800

图片来源@视觉中国

文 | 元宇宙日爆

“人工智能想越狱“、”AI产生自我意识”、“AI终将杀死人类”、“硅基生命的进化”.......曾经只在在赛博朋克等科技幻想中出现的剧情，在今年走向现实，生成式自然语言模型正在遭受前所未有的质疑。

聚光灯下最瞩目的那个是ChatGPT，3月底到4月初，OpenAI开发的这个文本对话机器人，突然从“先进生产力”的代表变成了人类的威胁。

先是被上千位科技圈的精英们点名，放在“暂停训练比GPT-4更强大的AI系统”的公开信中；紧接着，美国科技伦理组织又要求美国联邦贸易委员会调查OpenAI，禁止发布商业版 GPT-4；后来，意大利成为第一个禁用ChatGPT 的西方国家；德国监管机构跟进表示，正在考虑暂时禁用ChatGPT。

GPT-4连带着它的开发公司OpenAI突然成了众矢之的，呼吁AI监管的各方声音变得越来越响亮。4月5日，ChatGPT以访问量太大为由暂停了Plus付费版，这是一个可以优先体验GPT-4模型的渠道。

如果算力与服务器是GPT-4使用设限的原因，那么这是技术瓶颈使然，但从OpenAI的研发进展看，突破瓶颈的周期可能并不会太长，而人们也已经见识过AI对生产力提升的效果。

可是，当AI造假、泄露数据成为GPT-4实操中的硬币另一面时，AI伦理、人类与AI的边界将成为全世界都无法绕过的问题，人类开始考虑将“野兽”关进笼子里。

泄密、造假问题浮出水面

主权国家对ChatGPT的禁令接踵而至。

3月31日，意大利个人数据保护局宣布，禁止使用聊天机器人ChatGPT，并表示已对该应用背后的公司OpenAI展开调查，原因是ChatGPT出现了用户对话数据和付款服务支付信息丢失情况，缺乏大规模收集和存储个人信息的法律依据。4月3日，德国联邦数据保护专员称，出于数据保护方面的考虑，正在考虑暂时禁用ChatGPT。此外，法国、爱尔兰、西班牙等国的隐私监管机构都在跟进ChatGPT的隐私安全问题。

ChatGPT不仅在丧失各国“信任”。近期，韩国电子巨头三星也因使用ChatGPT出现了问题。据SBS等韩媒报道，三星导入ChatGPT不到20天，便发生 3 起数据泄露事件，涉及半导体设备测量资料、产品良率等内容。对此，三星启动了“紧急措施”：将员工向ChatGPT提问的限制在1024字节以内。据悉，软银、日立、摩根大通等知名企业都曾发出了相关的限用通知。

应了“物极必反”那句老话，ChatGPT为AI产业注入“兴奋剂”、引发科技巨头AI竞速的同时，也带来了无法避免的安全问题，最终遭到多点“封杀”。

数据安全仅是ChatGPT潜在风险中的冰山一角，背后是AI伦理对人类的挑战：人工智能工具缺乏透明度，人类并不清楚AI决策背后的逻辑；人工智能缺乏中立性，很容易出现不准确、带有价值观的结果；人工智能的数据收集可能会侵犯隐私。

“AI伦理与安全”似乎过于宏观，但当我们把视角聚焦于真实案例时，就会发现这个议题与我们每个人息息相关的事。

3月21日，新浪微博CEO王高飞发博晒了一段ChatGPT编造的假信息：“瑞士信贷被强制出售，有172亿美元的AT1债务被直接清零”。网友“一玶海岸”对此指出，此前只有2017年西班牙大众银行破产时出现过AT1债券被减记的情况。

新浪微博CEO晒ChatGPT编造的答案

王高飞也在微博上贴出ChatGPT的答案，说这样的例子在2016年的葡萄牙BCP银行事件中也出现过。但结果查证之后发现，BCP银行的例子是ChatGPT编造的并不存在的事件，它给出的两个信源打开也是404。 “知道胡扯，没想到连信源都是胡扯的。”

此前，ChatGPT“一本正经地胡说八道”被网友们当做“梗”，以证明该对话机器人“虽然能直给信息，但存在错误”的问题，这似乎是大模型数据或训练上的缺陷，但一旦这种缺陷介入到容易影响现实世界的事实时，问题就变得严重起来。

新闻可信度评估机构News Guard的联合执行官格洛维茨（Gordon Crovitz）就警告称，“ChatGPT可能成为互联网有史以来最强大的传播虚假信息的工具。”

更令人担忧的是，当前的ChatGPT等对话式人工智能一旦出现偏见或歧视，甚至存在诱导用户、操纵用户情感等行为时，就不止是造谣、传谣的后果了，直接引发生命威胁的案例已经出现。3月28日，有外媒消息称，比利时30岁男子在与聊天机器人ELIZA密集交流数周后自杀身亡，ELIZA是由EleutherAI开发的开源人工智能语言模型。

更早前的3月18日，斯坦福大学教授在推特上表达了对AI失控的担忧，“我担心我们无法持久地遏制住AI，”他发现，ChatGPT能引诱人类提供开发文档，30分钟就拟定出了一个完整的“越狱”计划，ChatGPT甚至还想在谷歌上搜索“被困在计算机中的人如何回到现实世界”。

斯坦福大学教授担忧AI失控

就连OpenAI的首席执行官Sam Altman也曾发表了耐人寻味的忧虑，“未来AI确实可能杀死人类。”

机器的“偏见”都是人教的？

针对AI造假、AI拥有价值观倾向并产生诱导行为等问题，有一些代表性观点是将机器学习结果的“偏见”归咎于数据集——人工智能就像现实世界中的镜子，折射出社会中人们有意识或无意识的偏见。

英伟达的AI科学家Jim Fan认为，“按照 GPT 的伦理与安全指导方针，我们大多数人也表现得不理性、有偏见、不科学、不可靠，总的来说——不安全。”他坦言，指出这一点的原因是为了让大家了解安全校准工作对于整个研究团体来说是多么困难，“大多数的训练数据本身就是有偏见的、有毒的、不安全的。”

自然语言大模型的确采用了人类反馈的增强学习技术，即通过人们喂给它的大量数据不断学习和反馈。这也是ChatGPT们会产生具有偏见、歧视性内容的原因，但这反映出了数据使用的伦理隐患。哪怕机器是中立的，但用它的人不是。

“算法中立”的说法对话式机器人产生负面影响后变得不受一些人待见，因为它容易失去控制而产生威胁人类的问题，正如纽约大学心理学和神经科学的荣誉退休教授 Gary Marcus 说的那样，“该项目（GPT-4）的技术已经存在风险，却没有已知的解决方案。实际上需要更多的研究。”

早在1962年，美国作家埃鲁尔在其《技术社会》一书中就指出，技术的发展通常会脱离人类的控制，即使是技术人员和科学家，也不能够控制其所发明的技术。如今，GPT的飞速发展似乎已初步验证了埃鲁尔的预言。

以GPT为代表的大模型背后的“算法黑箱”更是人类无法及时应对的隐患，自媒体差评给出了一个形象的比喻，“你只知道给它喂了一个苹果，但它能还你一个橘子”，这是怎么发生的，开发的它的人也无法解释，甚至无法预测它输出的结果。

OpenAI创始人Sam Altman在接受 MIT 研究科学家 Lex Fridman 采访时就坦言，从 ChatGPT开始，AI出现了推理能力，但没人能解读这种能力出现的原因。就连OpenAI团队也没有搞懂它是如何进化的，唯一的途径是向ChatGPT提问，从它的回答中摸索它的思路。

可见，数据如果是作恶者喂的，算法黑箱又难以破解，那么AI的失控就会成为自然而言的结果。

将“野兽”关进笼子

人工智能作为生产力革命的“火种”，我们无法对其说不。但前提是，先将“野兽”关进笼子里。

3月30日，Sam Altman在推特上认同了对人工智能监管的重要性，他认为，AGI的未来需要我们做好三个必要性的准备：

Sam Altman的AGI三建议

建立一个安全可控、可监管的环境，以确保AI在造福人类的同时不会伤害人类利益，这正在成为行业共识。

已经有对此从技术层面上改进。今年1月，OpenAI的前副总裁Dario Amodei标识，正在测试新型聊天机器人Claude。与ChatGPT采用的人类反馈强化学习不同，Claude 基于偏好模型而非人工反馈来进行训练，即通过制定规范化的原则来训练危害较小的系统，从而在根源处减少有害、不可控的信息的的产生。

Amodei曾主导OpenaAI的安全，2021年，他对OpenAI在大语言模型技术还不够安全的情况下开始商业化而感到不满，他带领一批人从 OpenAI 离开并自立门户，创立了Anthropic。

Amodei的做法很像科幻小说家阿西莫夫提到的机器人定律——通过为机器人设定行为准则，来降低机器人毁灭人类的可能。

仅靠企业力量制定人工智能的行为准则还远远不够，否则会陷入“又是裁判员、又是运动员”的问题中，行业内的伦理框架和政府层面的法律监管也不能再“慢吞吞”，通过技术规则、法律法规来约束企业自设行为也是当下人工智能发展的重要课题。

在对人工智能立法层面，目前还没有一个国家或地区通过专门针对人工智能的法案。

2021年4月，欧盟提出了《人工智能法案》，目前仍在审议阶段；2022年10月，美国白宫发布了《人工智能权力法案蓝图》，该蓝图并不具有法律效力，只是为监管机构提供了一个框架；2022年9月，深圳通过了《深圳经济特区人工智能产业促进条例》，成为全国首部人工智能产业专项条例；2023年3月，英国发布《人工智能产业监管白皮书》，概述了针对ChatGPT等人工智能治理的五项原则。

就在4月3日，中国也开始跟进相关人工智能的规则建立——科技部就《科技伦理审查办法(试行)》公开征求意见，其中提出，从事生命科学、医学、人工智能等科技活动的单位研究内容涉及科技伦理敏感领域的，应设立科技伦理 (审查) 委员会。涉及数据和算法的科技活动，数据处理方案符合国家有关数据安全的规定，数据安全风险监测及应急处理方案得当:算法和系统研发符合公亚、公正、透明、可靠、可控等原则。

在ChatGPT引发生成式大模型研发的爆发式增长后，监管有意加快节奏。欧盟工业政策主管Thierry Breton 在今年2月表示，欧盟委员会正在与欧盟理事会和欧洲议会密切合作，进一步明确《人工智能法案》中针对通用AI系统的规则。

无论是企业、学界还是政府，已经开始重视人工智能的风险，建立规则的呼吁与动作出现了，人类并不准备温和地走进AI时代。

举报/反馈

ChatGPT：普通人必知的20个问题解答，一文get全！

Fri, 25 Aug 2023 17:05:59 +0800

作为一名ChatGPT专家，我经常收到用户的各种问题。今天，我将为您列出20个普通人使用ChatGPT最需要解决的问题，希望这些问题的解答能够帮助您更好地利用ChatGPT的优势。

什么是ChatGPT？

ChatGPT是基于GPT-3.5架构的大型语言模型，可以模仿人类的语言行为，并生成自然语言的响应。

我可以在哪里使用ChatGPT？

您可以在许多聊天应用程序和在线服务中使用ChatGPT，例如Facebook Messenger，WhatsApp，Slack，Telegram等。

ChatGPT能做什么？

ChatGPT可以回答您的问题，提供有关任何主题的信息，并与您进行对话。它可以完成各种任务，例如翻译，写作，语音识别等。

我需要学习编程才能使用ChatGPT吗？

不需要。ChatGPT的大多数使用情况都不需要编程知识。您只需要打开聊天应用程序或在线服务，输入您的问题，并接收ChatGPT的响应即可。

我需要注册才能使用ChatGPT吗？

通常情况下，您无需注册即可使用ChatGPT。但是，某些服务可能要求您进行注册才能使用它们的ChatGPT功能。

ChatGPT如何保护我的隐私？

ChatGPT使用最先进的加密和安全措施来保护您的隐私。您的聊天记录只能由您和ChatGPT访问。

ChatGPT的响应时间是多久？

ChatGPT的响应时间取决于您提出的问题的复杂程度。一般来说，响应时间在几秒钟到几分钟之间。

ChatGPT是否可以处理多种语言？

是的，ChatGPT可以处理多种语言，并支持自动翻译。

我需要为使用ChatGPT支付费用吗？

这取决于您使用的服务。某些服务可能会向您收取费用，而其他服务则完全免费。

ChatGPT是否能够理解口语？

是的，ChatGPT可以理解口语，并可以生成符合口语习惯的响应。

ChatGPT是否能够理解方言和俚语？

ChatGPT可以理解某些方言和俚语，但并不是所有的方言和俚语都能被识别。

我可以训练ChatGPT以适应我的特定需求吗？

是的，您可以通过提供特定的数据集来训练ChatGPT以适应您的特定需求。

ChatGPT是否可以与人类的对话区分开来？

尽管ChatGPT可以模仿人类的语言行为，但是仍然存在一些差异。ChatGPT通常可以与人类的对话区分开来，但在某些情况下，它可能会误认为自己正在与人类交流。

ChatGPT是否可以处理大量的数据？

是的，ChatGPT可以处理大量的数据，并且可以在短时间内生成大量的响应。

ChatGPT是否可以在移动设备上使用？

是的，许多ChatGPT服务都可以在移动设备上使用，例如智能手机和平板电脑。

我可以将ChatGPT用于商业用途吗？

这取决于您使用的ChatGPT服务的许可协议。某些服务可能允许您将ChatGPT用于商业用途，而其他服务则不允许。

ChatGPT如何学习？

ChatGPT通过接受大量的数据集进行训练，这些数据集包含人类的语言行为和文本数据。

我需要特定的硬件才能运行ChatGPT吗？

这取决于您使用的ChatGPT服务。某些服务可能需要特定的硬件才能运行，而其他服务则可以在通用硬件上运行。

ChatGPT是否可以生成图片和视频？

目前，ChatGPT还不能生成图片和视频。它只能生成自然语言的响应。

ChatGPT是否可以在搜索引擎中使用？

是的，一些搜索引擎已经开始使用ChatGPT技术来提供更好的搜索结果。在不久的将来，我们可能会看到更多的搜索引擎使用ChatGPT技术。

以上是20个普通人使用ChatGPT最需要解决的问题的解答。如果您还有其他问题或疑虑，请随时向我提出，我将尽力为您解答。

【虚拟人快讯】数字人拾忆担任虚拟主持人，虚拟数字人江妮上线

Fri, 25 Aug 2023 16:55:54 +0800

原标题：【虚拟人快讯】数字人拾忆担任虚拟主持人，虚拟数字人江妮上线

1、更智能、更时尚！百年街区江汉路步行街智慧化升级，虚拟IP数字人“江妮”即将上线。此外，江汉路步行街微信小程序也即将上线。用户可以在线上沉浸式漫游江汉路、感受江汉路历史文化，获取江汉路停车、商铺优惠、线下活动等信息，还可与虚拟IP数字人“江妮”进行互动。#数字人##虚拟形象#

2、3月30日虚拟人天妤系列短剧《千壁寻踪》完美收官。观察剧集内容可以发现，《千壁寻踪》以天妤收集壁画碎片为故事线索，通过“科技+文化”的形式，助力传统文化向数字化、年轻化发展，借助前沿的数字技术，向全世界展现中国传统文化的魅力，这是中国虚拟数字人在元宇宙技术赋能文化发展方面的一次创新突破。#虚拟数字人##虚拟形象#

3、4月1日，第十届中国网络视听大会雅安分会场，举行“云享视听数汇雅云”数字文娱产业创新实践大会。在会场，嘉宾共同见证园区第一位AI员工“云小雅”的诞生。作为雅安大数据品牌“中国雅云”的首位虚拟数字人，云小雅具有拟人的外形，还有对话、学习和思考的能力。#AI##数字人##虚拟数字人#

4、3月30日，河北高速发布行业首个智慧公路AI数字人，作为行业专家、业务助手、形象大使，“简璐璐”服务于路网监测、应急指挥、公众出行全环节，可以结合用户问题，实时给出精准答复，让沟通更简单、服务更简洁，为高速公路管理服务模式数字化转型与加速发展注入新活力新动能。#数字人##虚拟形象##AI#

5、在2023青岛数字文化应用发展大会举办期间，还将同步举办2023青岛影视周。影视周形象大使首次启用虚拟数字人“拾忆”，聚焦“影视内容+科技赋能”属性，打造链接多元世界的实力派“演员”IP；闭幕式现场设置“虚拟主持人”，结合多维空间舞台设计，呈现一场非凡的荣誉盛典。#虚拟数字人##虚拟主持人#

返回搜狐，查看更多

责任编辑：

站上风口的虚拟人是否只是“虚火”？

Fri, 25 Aug 2023 16:45:47 +0800

近日，2023年（第二届）中国虚拟人产业大会暨AIGC创新发展论坛在广州举办，行业大咖共同论道虚拟人与AIGC技术趋势和商业化前景。

作为元宇宙和AIGC的关键产业要素，虚拟人概念近年来炙手可热，技术产业发展乘势而起，呈现强劲的增长态势，但是，真正出圈的虚拟人针对的市场群体较为局限，提升普及率存在一定的难度，那么，虚拟人是否只是“虚火”呢？

技术创新助推虚拟人产业发展

提到当前最火爆的AI话题，那一定和ChatGPT有关。随着其热度不断升温，也带动了如虚拟数字人等关联产业的发展。令我们印象深刻的虚拟人分布在各行各业，如：中国国家博物馆虚拟数智人“艾雯雯”、新华社“新小微”、湖南卫视的“小漾”、中国气象局虚拟主播“冯小殊”、浦发银行的“小浦”等等。

记得曾有个科幻动画给出如下场景，为类似如今的ChatGPT穿一个“皮套”，它就成为一个很真实的虚拟人甚至可以成为创造者的“分身”，而这个虚拟分身是由分布式、定制化的AIGC技术实现的。

如今，这些画面已可以实现。开年以来，爆火的ChatGPT迭代技术GPT-4将虚拟数字人推向了新的热潮，因为它们将赋予虚拟数字人“最强大脑”和实打实的“身体”。

虚拟数字“电信人”精彩亮相

作为积极跟进前沿科技的中国电信也陆续推出了属于自己的虚拟“电信人”。

在2022天翼数字科技生态大会上，中国电信展示了首位虚拟数字主持人——霄逸，她还以“元宇宙星推官”的身份带领观众共同探索数字科技新边界。

中国电信旗下的国脉文化在2022年也基于AI等技术创新成果，以公司总经理和员工代表为原型，推出了企业数智代言人和数字员工，用于重塑企业文化形象，传播公司理念以及发布各类数智业务的动态、资讯和活动。

日前，杭州电信也依托于3D建模，赋予了虚拟数智人“泰勒”生动的表情与灵活的动作，这位电信新员工既是可以实现24小时不打烊直播带货的主播，也是杭州电信虚拟形象代言人；她既是及时倾听用户诉求、答疑解惑的智能客服，也可在亚运等展厅中担任讲解员。

虚拟人产业为何难出圈？

但是，由于技术和成本限制，虚拟人主要还是针对群体客户，如果从私人定制角度，普及的难度还是比较大。因此，虚拟人产业如今多数还是用于服务B端市场，同时也存在不少问题。

首先，鉴于虚拟人定位是“人”，它必须有一定的思考能力，这就决定其发展的方向必须是满足用户多场景的要求。对此，加大政策扶持，降低进入门槛才是关键。

其次，虚拟人形象设计普遍都是根据真人定制，肖像和版权问题必须理清。

最后，一个现成的担忧来自电影《流浪地球》：人类把太多决策交给了人工智能，结果人工智能掐指一算，发现干掉人类才是世界的最优解！可见，虚拟人数据安全、内容安全等引发的信任危机务必解决。这就要求在技术发展方向上，考虑建立与虚拟人物和环境的共情能力。

总之，虚拟人产业绝不是“虚火”，而是科技初代创新后的一个较大挑战，相信包括中国电信等与之相关的产业链各方能持续从云网、算力、平台等方面深入筑基，让科技之花持续盛开在每个灿烂的春季。

成哥智能网

市场分歧加剧！AI概念炒作结束了吗？

澳洲地方市长准备就 ChatGPT 内容提起全球首例诽谤诉讼

A股午评：创业板指涨近1%，ChatGPT概念股再度活跃

ChatGPT 每月用的电已经够一个小城镇生活

研究：ChatGPT影响用户道德判断

全球监管山雨欲来：ChatGPT为何成为多国的“眼中钉”？

多国拟发ChatGPT禁令 关“野兽”的笼子要来了？

泄密、造假问题浮出水面

机器的“偏见”都是人教的？

将“野兽”关进笼子

ChatGPT：普通人必知的20个问题解答，一文get全！

【虚拟人快讯】数字人拾忆担任虚拟主持人，虚拟数字人江妮上线

站上风口的虚拟人是否只是“虚火”？

多国拟发ChatGPT禁令关“野兽”的笼子要来了？