Spark Session - Create Spark Session

Referência

Serviço:: Synapse

Versão da API:: 2020-12-01

Crie uma nova sessão do Spark.

POST {endpoint}/livyApi/versions/{livyApiVersion}/sparkPools/{sparkPoolName}/sessions

Com parâmetros opcionais:

POST {endpoint}/livyApi/versions/{livyApiVersion}/sparkPools/{sparkPoolName}/sessions?detailed={detailed}

Parâmetros de URI

Nome	Em	Obrigatório	Tipo	Description
endpoint	path	True	string	O ponto de extremidade de desenvolvimento do workspace, por exemplo `https://myworkspace.dev.azuresynapse.net`.
livyApiVersion	path	True	string	Versão de API válida para a solicitação.
sparkPoolName	path	True	string	Nome do pool do Spark.
detailed	query		boolean	Parâmetro de consulta opcional que especifica se a resposta detalhada é retornada além do livy simples.

Corpo da solicitação

Nome	Obrigatório	Tipo
name	True	string
archives		string[]
args		string[]
artifactId		string
className		string
conf		object
driverCores		integer
driverMemory		string
executorCores		integer
executorMemory		string
file		string
files		string[]
jars		string[]
numExecutors		integer
pyFiles		string[]
tags		object

Respostas

Nome	Tipo	Description
200 OK	SparkSession	Êxito

Exemplos

Create new spark session.

Solicitação de exemplo

HTTP

POST myWorkspace.dev.azuresynapse.net/livyApi/versions/2019-11-01-preview/sparkPools/mySparkPool/sessions?detailed=True

{
  "tags": null,
  "artifactId": "fill in here",
  "name": "jobname",
  "file": "abfss://",
  "className": "classname",
  "args": [],
  "jars": [],
  "files": [],
  "archives": [],
  "conf": null,
  "driverMemory": "4g",
  "driverCores": 4,
  "executorMemory": "2g",
  "executorCores": 2,
  "numExecutors": 2
}

Resposta de exemplo

Código de status:: 200

{
  "livyInfo": null,
  "name": "jobname",
  "workspaceName": "myWorkspace",
  "sparkPoolName": "mySparkPool",
  "submitterName": "thetime",
  "submitterId": "thesubmitterid",
  "artifactId": "fill in here",
  "jobType": "SparkSession",
  "result": "Failed",
  "schedulerInfo": null,
  "pluginInfo": null,
  "errorInfo": [],
  "tags": null,
  "id": 1,
  "appId": "fill in here",
  "appInfo": null,
  "state": "the state",
  "log": []
}

Definições

Nome	Description
LivyStates	O estado do lote
PluginCurrentState
SchedulerCurrentState
SparkErrorSource
SparkJobType	O tipo de trabalho.
SparkRequest
SparkScheduler
SparkServiceError
SparkServicePlugin
SparkSession
SparkSessionOptions
SparkSessionResultType
SparkSessionState

LivyStates

O estado do lote

Nome	Tipo	Description
busy	string
dead	string
error	string
idle	string
killed	string
not_started	string
recovering	string
running	string
shutting_down	string
starting	string
success	string

PluginCurrentState

Nome	Tipo	Description
Cleanup	string
Ended	string
Monitoring	string
Preparation	string
Queued	string
ResourceAcquisition	string
Submission	string

SchedulerCurrentState

Nome	Tipo	Description
Ended	string
Queued	string
Scheduled	string

SparkErrorSource

Nome	Tipo	Description
Dependency	string
System	string
Unknown	string
User	string

SparkJobType

O tipo de trabalho.

Nome	Tipo	Description
SparkBatch	string
SparkSession	string

SparkRequest

Nome	Tipo	Description
archives	string[]
args	string[]
className	string
conf	object
driverCores	integer
driverMemory	string
executorCores	integer
executorMemory	string
file	string
files	string[]
jars	string[]
name	string
numExecutors	integer
pyFiles	string[]

SparkScheduler

Nome	Tipo	Description
cancellationRequestedAt	string
currentState	SchedulerCurrentState
endedAt	string
scheduledAt	string
submittedAt	string

SparkServiceError

Nome	Tipo	Description
errorCode	string
message	string
source	SparkErrorSource

SparkServicePlugin

Nome	Tipo	Description
cleanupStartedAt	string
currentState	PluginCurrentState
monitoringStartedAt	string
preparationStartedAt	string
resourceAcquisitionStartedAt	string
submissionStartedAt	string

SparkSession

Nome	Tipo	Description
appId	string
appInfo	object
artifactId	string
errorInfo	SparkServiceError[]
id	integer
jobType	SparkJobType
livyInfo	SparkSessionState
log	string[]
name	string
pluginInfo	SparkServicePlugin
result	SparkSessionResultType
schedulerInfo	SparkScheduler
sparkPoolName	string
state	LivyStates	O estado da sessão.
submitterId	string
submitterName	string
tags	object
workspaceName	string

SparkSessionOptions

Nome	Tipo	Description
archives	string[]
args	string[]
artifactId	string
className	string
conf	object
driverCores	integer
driverMemory	string
executorCores	integer
executorMemory	string
file	string
files	string[]
jars	string[]
name	string
numExecutors	integer
pyFiles	string[]
tags	object

SparkSessionResultType

Nome	Tipo	Description
Cancelled	string
Failed	string
Succeeded	string
Uncertain	string

SparkSessionState

Nome	Tipo	Description
busyAt	string
currentState	string
deadAt	string
errorAt	string
idleAt	string
jobCreationRequest	SparkRequest
killedAt	string
notStartedAt	string
recoveringAt	string
shuttingDownAt	string
startingAt	string

Compartilhar via

Spark Session - Create Spark Session

Parâmetros de URI

Corpo da solicitação

Respostas

Exemplos

Create new spark session.

Solicitação de exemplo

Resposta de exemplo

Definições

LivyStates

PluginCurrentState

SchedulerCurrentState

SparkErrorSource

SparkJobType

SparkRequest

SparkScheduler

SparkServiceError

SparkServicePlugin

SparkSession

SparkSessionOptions

SparkSessionResultType

SparkSessionState

Recursos adicionais