亚马逊希望通过生成式人工智能安全措施吸引企业客户

　　亚马逊(Amazon)正试图吸引大企业客户使用其AWS云计算服务，提供保护，使其免受人工智能输出可能带来的法律和声誉损害。

　　在拉斯维加斯举行的亚马逊年度云计算大会上，AWS首席执行官亚当·塞利普斯基宣布了一项新的保护措施，以防止生成式人工智能应用程序上出现令人反感的内容，该措施被称为“Bedrock护栏”。他说，这项服务允许用户过滤掉有害内容。

　　因为生成式人工智能是在公开可用的内容上进行训练的，所以攻击性词汇或其他令人反感的内容可能会溜进用户提示的结果中。在全球冲突时期或选举期间，这对年轻用户来说尤其成问题，因为生成式人工智能在搜索结果中的输出可能会影响民意。

　　安全倡导者警告说，生成式人工智能可能会在人类创造者的控制之外运行，并产生越来越危险的内容，或者在没有监督的情况下运行整个系统。他们尤其担心，这款软件会把有影响力的、令人信服的内容放在X和Facebook等社交媒体网站上。

　　塞利普斯基表示，这项新服务对客户来说很重要，他们可以对自己使用的生成式人工智能进行限制。

　　塞利普斯基说:“例如，银行可以配置一个在线助手，使其避免提供投资建议。“或者，为了防止不恰当的内容，电子商务网站可以确保其在线助手不会使用仇恨言论或侮辱。”

　　同样在大会上，亚马逊宣布将赔偿客户因滥用受版权保护的材料而受到的诉讼。例如，图片库公司Getty Images今年早些时候起诉了Stability AI，称其未经许可从其网站上抓取图片。

　　亚马逊表示，Bedrock的护栏今天在有限的预览中。这家西雅图公司没有提供有关其赔偿政策的更多细节。