NYC タクシー & リムジン協会 - リムジン車両 (FHV) 運行記録

[アーティクル]
09/03/2024

ハイヤー ("FHV") の乗車記録には、配車側のベースライセンス番号、乗車の日時、タクシーゾーンの場所 ID (下記のシェープファイル) が入力されたフィールドが含まれています。これらの記録は、ベースによって提出された FHV 乗車記録から生成されます。

Note

Microsoft は、Azure Open Datasets を "現状有姿" で提供します。 Microsoft は、データセットの使用に関して、明示または黙示を問わず、いかなる保証も行わないものとし、条件を定めることもありません。現地の法律の下で認められている範囲内で、Microsoft は、データセットの使用に起因する、直接的、派生的、特別、間接的、偶発的、または懲罰的なものを含めたいかなる損害または損失に対しても一切の責任を負わないものとします。

このデータセットは、Microsoft がソースデータを受け取った元の条件に基づいて提供されます。データセットには、Microsoft が提供するデータが含まれている場合があります。

ボリュームとデータ保持期間

このデータセットは Parquet 形式で保存されています。 2018 年時点で約 5 億行 (5 GB) あります。

このデータセットには、2009 年から 2018 年までに蓄積された過去の記録が含まれます。 SDK でパラメーター設定を使用して、特定の時間範囲内のデータをフェッチできます。

保存先

このデータセットは、米国東部 Azure リージョンに保存されています。アフィニティのために、米国東部でコンピューティングリソースを割り当てることをお勧めします。

追加情報

ニューヨーク市タクシー & リムジン委員会 (TLC):

データは、Taxicab & Livery Passenger Enhancement Programs (TPEP/LPEP) の下で承認されたテクノロジプロバイダーによって収集され、ニューヨーク市タクシー & リムジン委員会 (TLC) に提供されました。乗車データは TLC によって作成されたものではなく、TLC はこれらのデータの正確性に関して一切の表明を行いません。

元のデータセットの場所と元の使用条件を表示します。

[列]

Name	データ型	一意	値 (サンプル)	説明
dispatchBaseNum	string	1,144	B02510 B02764	配車を行ったベースの TLC ベースライセンス番号
doLocationId	string	267	265 132	乗車が終了した TLC タクシーゾーン。
dropOffDateTime	timestamp	57,110,352	2017-07-31 23:59:00 2017-10-15 00:44:34	降車の日時。
pickupDateTime	timestamp	111,270,396	2016-08-16 00:00:00 2016-08-17 00:00:00	乗車の日時。
puLocationId	string	266	79 161	乗車開始された TLC タクシーゾーン。
puMonth	INT	12	1 12
puYear	INT	5	2018 2017
srFlag	string	44	1 2	乗車が、大規模 FHV 企業 (Uber Pool、Lyft Line など) によって提供されるライドシェアチェーンの一部であったかどうかを示します。相乗りの場合、値は 1 です。相乗りではない場合、このフィールドは null です。注:ほとんどの大規模 FHV 企業の場合、要求され、なおかつ移動中に別のライドシェア要求と一致したライドシェアにのみフラグが設定されます。ただし、Lyft (ベースライセンス番号 B02510 + B02844) では、ライドシェアが要求されたが、別の乗客の相乗りのマッチングに失敗した乗車にもフラグを設定します。そのため、この 2 つのベースの SR_Flag が 1 の乗車記録は、ライドシェアチェーンの最初の乗車、またはライドシェアが要求されたがマッチングされなかった乗車のいずれかを示している可能性があります。ユーザーは、Lyft が正常に完了した相乗りが過大評価されている可能性があることを考慮しておく必要があります。

プレビュー

dispatchBaseNum	pickupDateTime	dropOffDateTime	puLocationId	doLocationId	srFlag	puYear	puMonth
B03157	6/30/2019 11:59:57 PM	7/1/2019 12:07:21 AM	264	null	null	2019	6
B01667	6/30/2019 11:59:56 PM	7/1/2019 12:28:06 AM	264	null	null	2019	6
B02849	6/30/2019 11:59:55 PM	7/1/2019 12:14:10 AM	264	null	null	2019	6
B02249	6/30/2019 11:59:53 PM	7/1/2019 12:15:53 AM	264	null	null	2019	6
B00887	6/30/2019 11:59:48 PM	7/1/2019 12:29:29 AM	264	null	null	2019	6
B01626	6/30/2019 11:59:45 PM	7/1/2019 12:18:20 AM	264	null	null	2019	6
B01259	6/30/2019 11:59:44 PM	7/1/2019 12:03:15 AM	264	null	null	2019	6
B01145	6/30/2019 11:59:43 PM	7/1/2019 12:11:15 AM	264	null	null	2019	6
B00887	6/30/2019 11:59:42 PM	7/1/2019 12:34:21 AM	264	null	null	2019	6
B00821	6/30/2019 11:59:40 PM	7/1/2019 12:02:57 AM	264	null	null	2019	6

データアクセス

Azure Notebooks

# This is a package in preview.
from azureml.opendatasets import NycTlcFhv

from datetime import datetime
from dateutil import parser


end_date = parser.parse('2018-06-06')
start_date = parser.parse('2018-05-01')
nyc_tlc = NycTlcFhv(start_date=start_date, end_date=end_date)
nyc_tlc_df = nyc_tlc.to_pandas_dataframe()

nyc_tlc_df.info()

# Pip install packages
import os, sys

!{sys.executable} -m pip install azure-storage-blob
!{sys.executable} -m pip install pyarrow
!{sys.executable} -m pip install pandas

# Azure storage access info
azure_storage_account_name = "azureopendatastorage"
azure_storage_sas_token = r""
container_name = "nyctlc"
folder_name = "fhv"

from azure.storage.blob import BlockBlobServicefrom azure.storage.blob import BlobServiceClient, BlobClient, ContainerClient

if azure_storage_account_name is None or azure_storage_sas_token is None:
    raise Exception(
        "Provide your specific name and key for your Azure Storage account--see the Prerequisites section earlier.")

print('Looking for the first parquet under the folder ' +
      folder_name + ' in container "' + container_name + '"...')
container_url = f"https://{azure_storage_account_name}.blob.core.windows.net/"
blob_service_client = BlobServiceClient(
    container_url, azure_storage_sas_token if azure_storage_sas_token else None)

container_client = blob_service_client.get_container_client(container_name)
blobs = container_client.list_blobs(folder_name)
sorted_blobs = sorted(list(blobs), key=lambda e: e.name, reverse=True)
targetBlobName = ''
for blob in sorted_blobs:
    if blob.name.startswith(folder_name) and blob.name.endswith('.parquet'):
        targetBlobName = blob.name
        break

print('Target blob to download: ' + targetBlobName)
_, filename = os.path.split(targetBlobName)
blob_client = container_client.get_blob_client(targetBlobName)
with open(filename, 'wb') as local_file:
    blob_client.download_blob().download_to_stream(local_file)

# Read the parquet file into Pandas data frame
import pandas as pd

print('Reading the parquet file into Pandas data frame')
df = pd.read_parquet(filename)

# you can add your filter at below
print('Loaded as a Pandas data frame: ')
df

Azure Databricks

# This is a package in preview.
# You need to pip install azureml-opendatasets in Databricks cluster. https://learn.microsoft.com/azure/data-explorer/connect-from-databricks#install-the-python-library-on-your-azure-databricks-cluster
from azureml.opendatasets import NycTlcFhv

from datetime import datetime
from dateutil import parser


end_date = parser.parse('2018-06-06')
start_date = parser.parse('2018-05-01')
nyc_tlc = NycTlcFhv(start_date=start_date, end_date=end_date)
nyc_tlc_df = nyc_tlc.to_spark_dataframe()

display(nyc_tlc_df.limit(5))

# Azure storage access info
blob_account_name = "azureopendatastorage"
blob_container_name = "nyctlc"
blob_relative_path = "fhv"
blob_sas_token = r""

# Allow SPARK to read from Blob remotely
wasbs_path = 'wasbs://%s@%s.blob.core.windows.net/%s' % (blob_container_name, blob_account_name, blob_relative_path)
spark.conf.set(
  'fs.azure.sas.%s.%s.blob.core.windows.net' % (blob_container_name, blob_account_name),
  blob_sas_token)
print('Remote blob path: ' + wasbs_path)

# SPARK read parquet, note that it won't load any data yet by now
df = spark.read.parquet(wasbs_path)
print('Register the DataFrame as a SQL temporary view: source')
df.createOrReplaceTempView('source')

# Display top 10 rows
print('Displaying top 10 rows: ')
display(spark.sql('SELECT * FROM source LIMIT 10'))

Azure Synapse

# This is a package in preview.
from azureml.opendatasets import NycTlcFhv

from datetime import datetime
from dateutil import parser


end_date = parser.parse('2018-06-06')
start_date = parser.parse('2018-05-01')
nyc_tlc = NycTlcFhv(start_date=start_date, end_date=end_date)
nyc_tlc_df = nyc_tlc.to_spark_dataframe()

# Display top 5 rows
display(nyc_tlc_df.limit(5))

# Azure storage access info
blob_account_name = "azureopendatastorage"
blob_container_name = "nyctlc"
blob_relative_path = "fhv"
blob_sas_token = r""

# Allow SPARK to read from Blob remotely
wasbs_path = 'wasbs://%s@%s.blob.core.windows.net/%s' % (blob_container_name, blob_account_name, blob_relative_path)
spark.conf.set(
  'fs.azure.sas.%s.%s.blob.core.windows.net' % (blob_container_name, blob_account_name),
  blob_sas_token)
print('Remote blob path: ' + wasbs_path)

# SPARK read parquet, note that it won't load any data yet by now
df = spark.read.parquet(wasbs_path)
print('Register the DataFrame as a SQL temporary view: source')
df.createOrReplaceTempView('source')

# Display top 10 rows
print('Displaying top 10 rows: ')
display(spark.sql('SELECT * FROM source LIMIT 10'))

次のステップ

Open Datasets カタログの残りのデータセットを表示します。

次の方法で共有

NYC タクシー & リムジン協会 - リムジン車両 (FHV) 運行記録

ボリュームとデータ保持期間

保存先

追加情報

[列]

プレビュー

データアクセス

Azure Notebooks

Azure Databricks

Azure Synapse

次のステップ

フィードバック

その他のリソース

次の方法で共有

NYC タクシー & リムジン協会 - リムジン車両 (FHV) 運行記録

ボリュームとデータ保持期間

保存先

追加情報

[列]

プレビュー

データ アクセス

Azure Notebooks

Azure Databricks

Azure Synapse

次のステップ

フィードバック

その他のリソース

データアクセス