据报道，苹果公司阻止了一款电子邮件应用程序基于ChatGPT的更新，原因是担心可能会生成不适合儿童的内容。这款应用程序名为BlueMail，该应用程序试图增加AI功能，使用ChatGPT来帮助自动编写邮件。(新浪财经)
这一消息来自苹果公司发给该应用开发者的邮件，这款应用名为BlueMail，开发公司为Blix，其联合创始人本 沃拉赫(Ben Volach)介绍，上周，苹果公司采取措施阻止了BlueMail的更新，因为担心该应用中一个新的人工智能功能可能会显示不适当的内容。BlueMail的新人工智能功能使用OpenAI最新的ChatGPT聊天机器人来帮助用户根据之前的电子邮件和日历事件自动写出电子邮件。
苹果公司的应用审核团队上周在发送给该应用开发者的信中称，“你的应用包含了由人工智能生成的内容，但目前似乎没有包含内容过滤功能。”该审核团队说，由于该应用可能产生不适合所有受众的内容，BlueMail 应该将其年龄限制提高到17岁以上，或者包含内容过滤功能。文件显示，沃拉赫说该应用有内容过滤功能，目前该应用对4岁及以上用户开放。苹果公司对17岁及以上用户设置了年龄限制，这个类别包括可能包含从粗俗语言到性、毒品内容等各种内容的应用。沃拉赫说，这个要求是不公平的，并且其他有类似人工智能功能而没有年龄限制的应用已经被允许在苹果用户中使用，“苹果公司让我们很难给我们的用户带来创新。”沃拉赫说。
(相关资料图)
苹果公司的一位发言人说，开发者可以通过其应用审核委员会的申诉程序来申诉，并且该公司正在调查Blix的申诉。
所谓的生成型人工智能已经成为几十年来最受关注的发展中技术之一，主要由OpenAI创建的ChatGPT聊天机器人引发。
此前曾报道，微软最近发布了一个新版本的必应应用，其中包含了ChatGPT功能，并将其提交到苹果的App Store和谷歌的AndroidPlay Store。在iPhoneApp Store中的必应应用遵循了苹果公司要求的17岁以上年龄的用户限制，而在谷歌Play商店中没有任何年龄限制。一位微软发言人说，在App Store中的必应拥有17岁以上年龄限制是因为该应用能够找到成人内容。
相关阅读
经济日报：“ChatGPT禁令”频发为哪般？
要说2023年初的互联网热点当属ChatGPT，但是最近多家公司和机构开始对ChatGPT的使用施加限制。以ChatGPT为代表的人工智能技术在给人类带来便利的同时也引发了诸多担忧。
首先是信息泄露和合规风险。摩根大通近日开始限制员工使用ChatGPT，成为第一家在工作场所限制使用ChatGPT的华尔街投行。随后，花旗集团和高盛集团也加入华尔街禁用ChatGPT之列。而此前，微软和亚马逊因担心泄露机密信息，禁止公司员工向ChatGPT分享敏感数据，因为员工输入的信息可能会被ChatGPT用作进一步迭代的训练数据。咨询公司埃森哲也出于类似原因，警告员工不要将客户信息透露给ChatGPT。
其次是内容剽窃和作弊风险。在大学和出版界，“ChatGPT禁令”已经较为普遍。为避免学生过于依赖此类工具，美国、法国、英国等多国学校发出禁令，禁止学生在学校内使用类似于ChatGPT的人工智能工具完成学习任务和考试。香港大学近日也表示，禁止在港大所有课堂、作业和评估中使用ChatGPT或其他人工智能工具。美国知名科幻杂志《克拉克世界》宣布，由于近期收到大量人工智能生成的稿件，决定停止接收投稿。在学术、应试和文学创作等领域，ChatGPT的表现十分优秀，遭到的反对也最为激烈，因为人们担心对此类软件的过度依赖将会使人丧失独立思考的能力。
此外，ChatGPT等人工智能技术对网络和数据安全的威胁也值得关注。尽管ChatGPT本身尚不具备直接攻击网络安全和数据安全的能力，但由于它具有自然语言生成和理解的能力，能够用来编程或写论文，自然也能被用来编写恶意代码、垃圾邮件等。
任何一项新技术的诞生往往伴随着弊端与风险。面对人工智能带来的挑战，相应的安全技术和监管制度应该跟上。许多大学已经在使用检测抄袭的软件，ChatGPT的开发者OpenAI公司表示，该软件的目标是与教育工作者合作，帮助教师和学生从人工智能中受益，不希望ChatGPT在学校或其他任何地方被用于误导目的，已经在开发应对措施，以帮助识别该系统生成的文本。而针对此类应用的安全风险，目前国内外已经有不少业内企业着手建设人工智能安全平台，以提升对于威胁的检测和响应能力。总体来看，只有在合理的监管和治理之下，人工智能技术才能更好地为人服务。
您可能也喜欢这些文章
