Set up OpenAI ChatGPT Codex with LiteLLM on Amazon ECS and Amazon Bedrock
使用 AWS Fargate 在 Amazon ECS 上部署客户操作的 LiteLLM 网关，将其连接到 Amazon Bedrock 上的 OpenAI 模型，并配置 Codex 通过网关的响应 API 使用范围内的身份、预算、速率限制和遥测来路由请求。我们还比较了直接 IAM Identity Center 访问和托管 Portkey 部署。
LiteLLM in the crosshairs: Supply Chain Attack on AI Infrastructure
LiteLLM 的用户可能已成为攻击者组织的目标。早在 3 月份，人们就知道“TeamPCP”组织已经成功获取了各个平台的机密信息，包括 Kubernetes 秘密、SSH 密钥、存储库凭证、AWS 等云平台以及 AI 环境的代币。有关谁受到影响以及攻击者能够窃取哪些数据的信息可以在在线数据库中查看。
LiteLLM Supply-Chain Attack – Technology, Banking and Healthcare the Most Affected
SANDCLOCK LiteLLM 供应链攻击暴露了 2,038 个存储库的凭证，影响了技术、金融、医疗保健、零售等领域。 Resecurity（美国）估计了受“SANDCLOCK”后门影响最严重的扇区，该后门是由于代码存储库泄露而植入的。据网络安全专家称，LiteLLM / TeamPCP 供应链攻击将产生长期的后果。通过损害 [...]
