无服务器 GPU 环境版本 3 （beta）

本文概述了无服务器 GPU 环境版本 3 的系统环境信息。

为了确保应用程序的兼容性，无服务器 GPU 工作负载使用版本控制 API（称为环境版本），该 API 与较新的服务器版本保持兼容。

可以使用无服务器笔记本中的 环境 侧面板选择环境版本。 请参阅 设置无服务器 GPU 计算。

新功能和改进

无服务器 GPU 环境 3 基于无服务器环境 3 （CPU） 构建。 查看 无服务器环境 3（CPU）中的新增功能。

已知问题

导入转换器时出现 Threadpoolctl 库警告

导入 transformers 库时，可能会看到以下错误消息。 这是无服务器 GPU 环境 3 中库的已知问题 threadpoolctl 。

Exception ignored on calling ctypes callback function: <function _ThreadpoolInfo._find_modules_with_dl_iterate_phdr.<locals>.match_module_callback at 0x7fe29c7da8e0>
Traceback (most recent call last):
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 400, in match_module_callback
    self._make_module_from_path(filepath)
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 515, in _make_module_from_path
    module = module_class(filepath, prefix, user_api, internal_api)
             ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 606, in __init__
    self.version = self.get_version()
                   ^^^^^^^^^^^^^^^^^^
  File "/databricks/python/lib/python3.12/site-packages/threadpoolctl.py", line 646, in get_version
    config = get_config().split()
             ^^^^^^^^^^^^^^^^^^
AttributeError: 'NoneType' object has no attribute 'split'

若要解决此问题，请升级到 无服务器 GPU 环境 4 或升级 threadpoolctl 库：

pip install threadpoolctl==3.1.0

系统环境

• 操作系统：Ubuntu 24.04.2 LTS
• Python：3.12.3
• Databricks Connect：16.4.2
• NVIDIA CUDA 工具包：12.4

已安装的 Python 库

除了 无服务器环境 3（CPU）中包含的内容外，无服务器 GPU 环境 3 还包括以下内容：

• torch 2.6.0
• torchvision 0.21.0

若要在本地 Python 虚拟环境中重现无服务器 GPU 环境 3，请下载 requirements-env-gpu-3.txt 文件并运行 pip install -r requirements-env-gpu-3.txt。 此命令从无服务器 GPU 环境 3 安装所有开源库。