模型只加载一次,是每个进程一次而不是整台机器一次
_initialized 避免同一个服务实例重复初始化,FastAPI 生命周期在启动时调用它。这种写法的边界是 Python 进程,而不是容器集群,更不是物理机器。
_initialized 避免同一个服务实例重复初始化,FastAPI 生命周期在启动时调用它。这种写法的边界是 Python 进程,而不是容器集群,更不是物理机器。
cellpose-kit 用启动生命周期加载模型,用 asyncio.Lock 串行进入推理,再通过 asyncio.to_thread 执行同步工作。这是一种明确的单进程资源管理策略。