网宿科技推出边缘AI网关 将助力企业用户高效创新

 成功案例     |       来源:火狐直播下载官网    发布时间:2024-07-22 14:37:26

  11日宣布,推出边缘AI网关新服务,为企业用户更好的提供安全、可靠、高性能、易观察的一体化模型服务管理方案。

  CDN产品研发总监曾智全接受采访表示,AI慢慢的变成了新一轮创新的焦点,很多企业要使用AI,但面临成本、管理和安全方面的挑战,在业内率先推出边缘AI网关,开创了行业服务新范式。

  通常,企业管理其所接入的多个大模型,需要提前做一些集成开发。网宿边缘AI网关提前完成了与多个主流AI服务商的集成,企业研发人员无需频繁修改代码,只需在控制台进行网关配置,一次接入,就可以使用多个模型服务。

  同时,网宿边缘AI网关支持优先级、负载均衡、限速、缓存等配置,帮企业实现成本可控或减少滥用,并且可在请求失败情况下实现无缝切换,提升AI服务的可靠性。此外,网宿边缘AI网关提供数据可视化功能,让公司能够观测和控制模型服务的使用情况,以优化模型服务策略。

  此外,网宿边缘AI网关还确保模型服务的安全性、高性能,以及可定制化。企业可在网宿边缘AI网关上配置提示词过滤规则或执行内容安全审计,确保交互内容安全、合规且尊重用户。依托网宿强大的全球资源网络,用户就近接入边缘分布式AI网关,能保证访问的稳定性和速度。此外,通过将网宿边缘AI网关和网宿边缘函数结合使用,可以灵活定制一些模型调用或中间处理逻辑,1小时内上线,大幅度的提高效率。

  目前,网宿边缘AI网关已开放限时免费测试,接下来,网宿将正式开展服务。届时,用户可简易地管理和集成模型服务,高效开展AI应用创新。