2023 年 11 月
這些功能和 Azure Databricks 平台改進功能於 2023 年 11 月發行。
注意
分階段發行。 您的 Azure Databricks 工作區可能要到初始發行日期後一週或以上才會更新。
Mosaic AI 向量搜尋為公開預覽
2023 年 11 月 30 日
馬賽克 AI 向量搜尋是無伺服器相似性搜尋引擎,可讓您在向量資料庫中儲存數據的向量表示法,包括元數據。 在這項功能中,您可以從 Unity 目錄中的數據建立自動更新向量搜尋索引,並使用簡單的 API 查詢它們,以傳回最類似的向量做為 RAG 工作流程的一部分。 請參閱 馬賽克 AI 向量搜尋。
無法再停用訪問控制清單
2023年11月29日
下列設定會在所有進階方案工作區上啟用,且無法再從工作區系統管理員設定頁面或工作區 Conf API 停用:
- 工作區訪問控制:可讓用戶設定工作區對象的許可權。
- 叢集、集區、作業訪問控制:可讓用戶設定叢集、集區和作業的許可權。
- 叢集可見度控制:防止沒有許可權的使用者看到叢集。
- 作業可見度控制:防止沒有許可權的使用者看到作業。
- 工作區可見性控件設定:防止筆記本和資料夾無法顯示給沒有許可權的使用者。
自 2018 年 3 月以來,新的工作區上預設已啟用訪問控制設定,而且自 2020 年 12 月起,預設會啟用可見性控制設定。
如需詳細資訊,請參閱存取控制清單。
磁碟區的目錄總管中的新行為和動作
2023年11月22日
如果上傳至磁碟區 UI 中沒有任何磁碟區存在 ,您現在可以在目標架構中建立新的磁碟區 。 請參閱將檔案上傳至 Unity Catalog 磁碟區。
刪除檔案和下載檔案等動作已新增至目錄總管中磁碟區中的檔案。
Databricks Runtime 14.2 已正式發行
2023年11月22日
Databricks Runtime 14.2 和 Databricks Runtime 14.2 ML 現已正式推出。
請參閱 Databricks Runtime 14.2 (EoS) 和 Databricks Runtime 14.2 for 機器學習 (EoS) 。
適用於 Python 的 Databricks SQL 連接器 3.0.0 版
2023年11月17日
您現在可以執行 pip install databricks-sql-connector==3.0.0
。
此發行版本:
- 拿掉 Python 3.7 的支援
- 新增原生參數化 SQL 查詢的支援。 需要 DBR 14.2 和更新版本。 如需詳細資訊,請參閱 在 databricks-sql-python GitHub 存放庫中使用原生參數 。
- 包含我們完全重寫的 SQLAlchemy 方言:
- 新增 SQLAlchemy >= 2.0 的支援,並卸除 SQLAlchemy 1.x 的支援
- 所有支援功能的完整端對端測試涵蓋範圍
- 這裡提供 的詳細使用量注意事項
- 新增下列項目的支援:
- 新類型:
TIME
、、TIMESTAMP
、TIMESTAMP_NTZ
、TINYINT
Numeric
類型小數位數和精確度,例如Numeric(10,2)
- 讀取和寫入和寫入
PrimaryKeyConstraint
ForeignKeyConstraint
- 讀取和寫入複合索引鍵
- 從檢視讀取和寫入
- 寫入
Identity
資料表 (自動增補主鍵) LIMIT
和OFFSET
用於逐頁查看結果- 快取元數據呼叫
- 新類型:
- 默認會啟用雲端擷取。 若要停用,請在建置
databricks.sql.client
時設定use_cloud_fetch=False
。 - 新增 Azure Databricks Unity 目錄磁碟區擷取查詢的整合測試
- 重試:
- 新增
_retry_max_redirects
組態 - 如果使用者覆寫它,請設定
_enable_v3_retries=True
並警告。
- 新增
- 安全性:將最低 pyarrow 版本顛簸為 14.0.1 (CVE-2023-47248)
在無隔離共用叢集上支援的工作區檔案中程式庫
2023年11月15日
您現在可以安裝儲存為工作區檔案的連結庫,以在 Databricks Runtime 14.1 和更新版本中以無隔離共用存取模式進行設定。
取代工作區程式庫
2023年11月15日
工作區連結庫現在已被取代,並已停用建立新的工作區連結庫。 現有的工作區連結庫會繼續運作。 請注意,將程式庫儲存為工作區檔案與工作區程式庫不同,但仍受到完全支援。 您可以直接將儲存為工作區檔案的程式庫安裝到計算或作業工作。 請參閱程式庫。
Azure 機密運算 VM 類型支援現已正式發行
2023年11月15日
Azure 機密運算 VM 類型的 Azure Databricks 支援現已正式推出。 Azure 機密運算可協助保護使用中的資料,防止雲端提供者存取敏感資料。 請參閱 Azure 機密運算 VM。
使用全域工作區搜尋搜尋 Databricks Marketplace 清單
2023年11月13日
您現在可以使用 Azure Databricks 工作區 UI 中的全局搜尋列,在 Databricks Marketplace 中尋找數據集、AI 模型和 Databricks 解決方案加速器。 請參閱 什麼是 Databricks Marketplace? 和 搜尋工作區物件。
使用外部平台取用 Databricks Marketplace 中的資料產品
2023年11月10日
沒有已啟用 Unity 目錄的 Azure Databricks 工作區的取用者現在可以存取 Databricks Marketplace 中的數據產品。 您可以使用 Delta Sharing 開放式共用連接器,使用許多常見的平臺來存取 Marketplace 數據,包括Microsoft Power BI、Microsoft Excel、pandas、Apache Spark 和非 Unity 目錄 Databricks 工作區。 只有表格式數據集可在外部平臺上使用(例如,不是 Databricks 筆記本或模型)。 請參閱 使用外部平臺存取 Databricks Marketplace 中的數據產品。
為數個 Azure 區域新增了對無伺服器 SQL 倉儲的支援
2023年11月9日
下列 Azure 區域現在支援無伺服器 SQL 倉儲:
- 巴西南部(巴西南部)
- 印度中部(中迪亞)
- 日本東部(日本東部)
- 美國中北部(中北部)
- 英國南部 (uksouth)
請參閱 Azure Databricks 區域 和 啟用無伺服器 SQL 倉儲。
為新工作區自動啟用 Unity Catalog
2023年11月9日
Databricks 已開始針對新的工作區自動啟用 Unity 目錄。 如此帳戶管理員在建立工作區之後,就不需要設定 Unity 目錄。 推出將會逐步跨帳戶進行。 請參閱自動啟用 Unity 目錄。
Databricks Runtime 14.2 (搶鮮版 (Beta))
2023年11月8日
Databricks Runtime 14.2 和 Databricks Runtime 14.2 ML 現在可作為 Beta 版本使用。
請參閱 Databricks Runtime 14.2 (EoS) 和 Databricks Runtime 14.2 for 機器學習 (EoS) 。
Databricks Marketplace 包含 Databricks 解決方案加速器
2023 年 11 月 7 日
Databricks Marketplace 現在可讓您存取 Databricks 解決方案加速器、用途建置的指南,提供功能完整的筆記本、最佳做法指引和範例數據,讓您快速設定 Azure Databricks 上的許多熱門使用案例。 請參閱 取得 Databricks 解決方案加速器的存取權。
Lakehouse Federation 新增對 Google BigQuery 的支援
2023年11月3日
您現在可以設定 Lakehouse 同盟,以使用 BigQuery
連接器類型執行同盟查詢。 Pro 和無伺服器 SQL 倉儲和 Databricks Runtime 13.3 LTS 和更新版本都支援新的 BigQuery 連接器。 請參閱 在Google BigQuery上執行同盟查詢。