ESTsoft获JDC生成式AI语言模型项目合同
AI服务企业ESTsoft于10月21日表示，已赢得为济州国际自由城市开发中心（JDC）建设内部生成式AI语言模型（sLLM）的合同。
该项目计划在隔离的内部网络环境中建立可安全使用数据的生成式AI环境，同时遵守安全与个人信息保护相关规定。ESTsoft将在JDC服务器上部署sLLM，并开发将语言模型与AI agent（AI智能体）相结合的业务支持平台。
ESTsoft将首先面向JDC的重点业务开发专用业务支持聊天机器人，覆盖开发项目、免税零售、预算、安全管理、合同和人力资源等。参数量至少300亿的模型负责日常问答，参数量至少1200亿的模型处理复杂的长文本推理任务，以按不同职能提供相匹配的响应质量。
此外，ESTsoft计划嵌入约3.8TB的JDC内部文档，基于检索增强生成（RAG）提供AI文档搜索服务。该服务将与包括企业内容管理（ECM）系统在内的现有系统及外部数据源集成，以保持响应内容及时更新。
ESTsoft还将搭建能够执行业务任务的AI agent环境，开发通过API调用执行操作的行动导向型智能体，并提供Agent Builder（智能体构建器），让用户设计并执行涉及多个协作智能体的工作流。这将使JDC未来能够自主扩展AI应用。ESTsoft还将实施适应隔离网络环境的安全与监控系统，并引入大语言模型运维（LLMOps）。
