2022年聊天机器人（ChatGPT）上线以后不久，就引发了学校老师的激烈反对，反映学生使用聊天机器人作业和考试作弊，对学校管理带来极大挑战。也有一些国家和政府担忧聊天机器人会误导民众，传播错误信息，或者发展到导致某些行业大批裁员，导致经济和社会动乱。

2023年5月16日美国参议院举行听证会，聊天机器人开发公司OpenAI的首席执行官山姆·奥特曼出席参议院听证会作证。山姆·奥特曼提议成立一个美国或全球机构，为人工智能系统颁发许可证，并有权“取消该许可证并确保符合安全标准”。

虽然美国还没有人工智能立法，但美国政府机构已经使用消费者权益保护法和人权隐私法等限制并取缔违法的人工智能应用。支持参议院听证会的参议员理查德·布卢门撒尔的开幕演讲，其实是人工智能制造的发言，而非理查德·布卢门撒尔本人自己的发言，连发音也是人工智能模拟的。布卢门撒尔说，如果机器人伪造了我要乌克兰投降普京的发言怎么办？奥特曼在听证会上说，如果这个技术出错，将会错得非常厉害，对世界都会造成伤害。

奥特曼认为要杜绝人工智能模块不受控制的自我繁衍，暗示人工智能潜在的欺骗人类让人类放弃对它的控制的风险。共和党参议员乔什·霍利认为人工智能对选举、就业和国家安全都有重大的可能影响。奥特曼和一些业界领袖倾向于由联合国建立国际规范，如国际原子能机构那样。IBM副总裁蒙哥马利则敦促美国政府尽快立法。蒙哥马利认为规范不应该规范人工智能技术，而应该规范人工智能技术的应用。

出于对聊天机器人的安全隐患，欧盟已经于2023年5月11日立法规范人工智能，出台了《人工智能法》以规范人工智能的应用，其中明确规定了聊天机器人不得侵犯版权，违规者最高可被罚款4000万欧元。中国深圳市于2022年11月1日起实施《深圳经济特区人工智能产业促进条例》，强调基础研究与伦理道德并重，建立伦理审核机制。