Pubblicazione e sottoscrizione con l'SDK di trasmissione IVS su iOS | Streaming in tempo reale

Questo documento illustra i passaggi necessari per pubblicare e sottoscrivere una fase utilizzando l'SDK di trasmissione IVS per lo streaming in tempo reale su iOS.

Concetti

La funzionalità in tempo reale si basa su tre concetti fondamentali: fase, strategia e renderer. L'obiettivo di progettazione è ridurre al minimo la quantità di logica lato client necessaria per creare un prodotto funzionante.

Stage

La classe IVSStage è il principale punto di interazione tra l'applicazione host e l'SDK. La classe rappresenta lo stage stesso e serve per entrare e uscire dallo stage. La creazione o la partecipazione a uno stage richiedono una stringa di token valida e non scaduta dal piano di controllo (control-plane) (rappresentata come token). Entrare e uscire da uno stage è semplice.

let stage = try IVSStage(token: token, strategy: self)

try stage.join()

stage.leave()

La classe IVSStage è anche il luogo in cui possono essere collegati IVSStageRenderer e IVSErrorDelegate:

let stage = try IVSStage(token: token, strategy: self)
stage.errorDelegate = self
stage.addRenderer(self) // multiple renderers can be added

Strategia

Il protocollo IVSStageStrategy consente all'applicazione host di comunicare lo stato desiderato dello stage all'SDK. È necessario implementare tre funzioni: shouldSubscribeToParticipant, shouldPublishParticipant e streamsToPublishForParticipant. Sono tutte analizzate di seguito.

Sottoscrizione ai partecipanti

func stage(_ stage: IVSStage, shouldSubscribeToParticipant participant: IVSParticipantInfo) -> IVSStageSubscribeType

Quando un partecipante remoto partecipa a uno stage, l'SDK interroga l'applicazione host sullo stato della sottoscrizione desiderato per quel partecipante. Le opzioni sono .none, .audioOnly e .audioVideo. Quando si restituisce un valore per questa funzione, l'applicazione host non deve preoccuparsi dello stato di pubblicazione, dello stato della sottoscrizione corrente o dello stato della connessione allo stage. Se viene restituito .audioVideo, l'SDK attende che il partecipante remoto effettui la pubblicazione prima della sottoscrizione e aggiorna l'applicazione host tramite il renderer durante tutto il processo.

Di seguito è riportata un'implementazione di esempio:

func stage(_ stage: IVSStage, shouldSubscribeToParticipant participant: IVSParticipantInfo) -> IVSStageSubscribeType {
    return .audioVideo
}

Questa è l'implementazione completa di questa funzione per un'applicazione host che vuole sempre che tutti i partecipanti si vedano tra loro, ad esempio un'applicazione di chat video.

Sono possibili anche implementazioni più avanzate. Utilizza la proprietà attributes su IVSParticipantInfo per iscriverti selettivamente ai partecipanti in base agli attributi forniti dal server:

func stage(_ stage: IVSStage, shouldSubscribeToParticipant participant: IVSParticipantInfo) -> IVSStageSubscribeType {
    switch participant.attributes["role"] {
    case "moderator": return .none
    case "guest": return .audioVideo
    default: return .none
    }
}

Questa può essere usata per creare uno stage in cui i moderatori possano monitorare tutti gli ospiti senza essere visti o ascoltati. L'applicazione host potrebbe utilizzare una logica aziendale aggiuntiva per consentire ai moderatori di vedersi ma rimanendo invisibili agli ospiti.

Configurazione dell'abbonamento ai partecipanti

func stage(_ stage: IVSStage, subscribeConfigurationForParticipant participant: IVSParticipantInfo) -> IVSSubscribeConfiguration

Se un partecipante moto viene abbonato (consulta la sezione Abbonamento ai partecipanti), l'SDK interroga l'applicazione host su una configurazione di abbonamento personalizzata per tale partecipante. Questa configurazione è facoltativa e consente all'applicazione host di controllare determinati aspetti del comportamento dell'abbonato. Per informazioni sui valori che è possibile configurare, consulta la sezione SubscribeConfiguration nella documentazione di riferimento dell'SDK.

Di seguito è riportata un'implementazione di esempio:

func stage(_ stage: IVSStage, subscribeConfigurationForParticipant participant: IVSParticipantInfo) -> IVSSubscribeConfiguration {
    let config = IVSSubscribeConfiguration()

    try! config.jitterBuffer.setMinDelay(.medium())

    return config
}

Questa implementazione aggiorna il ritardo minimo del jitter-buffer per tutti i partecipanti abbonati a un valore predefinito di MEDIUM.

Come per shouldSubscribeToParticipant, sono possibili anche implementazioni più avanzate. Il valore ParticipantInfo dato può essere utilizzato per aggiornare selettivamente la configurazione di abbonamento per partecipanti specifici.

Consigliamo di utilizzare i valori predefiniti. Specifica la configurazione personalizzata solo se desideri modificare un comportamento particolare.

Pubblicazione

func stage(_ stage: IVSStage, shouldPublishParticipant participant: IVSParticipantInfo) -> Bool

Una volta connesso allo stage, l'SDK interroga l'applicazione host per vedere se un dato partecipante deve eseguire una pubblicazione. Viene richiamata solo per i partecipanti locali che hanno il permesso di pubblicare in base al token fornito.

Di seguito è riportata un'implementazione di esempio:

func stage(_ stage: IVSStage, shouldPublishParticipant participant: IVSParticipantInfo) -> Bool {
    return true
}

Si tratta di un'applicazione di chat video standard in cui gli utenti vogliono sempre pubblicare. Possono disattivare e riattivare l'audio e il video per essere nascosti o visti/ascoltati immediatamente. Possono anche usare il comando di pubblicazione/annullamento della pubblicazione, ma è molto più lento. È preferibile disattivare/riattivare l'audio nei casi d'uso in cui è consigliabile modificare spesso la visibilità.

Scelta dei flussi da pubblicare

func stage(_ stage: IVSStage, streamsToPublishForParticipant participant: IVSParticipantInfo) -> [IVSLocalStageStream]

Durante la pubblicazione, serve a determinare quali flussi audio e video devono essere pubblicati. Questo argomento verrà trattato dettagliatamente più avanti in Pubblicazione di un flusso multimediale.

Aggiornamento della strategia

La strategia è pensata per essere dinamica: è possibile modificare i valori restituiti da una qualsiasi delle funzioni precedenti in qualsiasi momento. Ad esempio, se l'applicazione host non desidera pubblicare finché l'utente finale non tocca un pulsante, è possibile restituire una variabile da shouldPublishParticipant (del tipo hasUserTappedPublishButton). Quando quella variabile cambia in base a un'interazione da parte dell'utente finale, chiama stage.refreshStrategy() per segnalare all'SDK che dovrebbe eseguire una query sulla strategia per i valori più recenti, applicando solo quanto modificato. Se l'SDK rileva che il valore shouldPublishParticipant è cambiato, avvierà il processo di pubblicazione. Se le query dell'SDK e tutte le funzioni restituiscono lo stesso valore di prima, la chiamata refreshStrategy non apporterà alcuna modifica allo stage.

Se il valore restituito di shouldSubscribeToParticipant cambia da .audioVideo a .audioOnly, il flusso video verrà rimosso per tutti i partecipanti con valori restituiti modificati, se in precedenza esisteva un flusso video.

In genere, lo stage utilizza la strategia per applicare in modo più efficiente la differenza tra le strategie precedenti e quelle attuali, senza che l'applicazione host debba preoccuparsi di tutto lo stato necessario per gestirla correttamente. Per questo motivo, considera la chiamata a stage.refreshStrategy() come un'operazione a basso costo, perché non viene eseguita a meno che la strategia non cambi.

Renderer

Il protocollo IVSStageRenderer comunica lo stato desiderato dello stage all'applicazione host. Gli aggiornamenti all'interfaccia utente dell'applicazione host in genere possono essere alimentati interamente dagli eventi forniti dal renderer. Il renderer fornisce le funzioni seguenti:

func stage(_ stage: IVSStage, participantDidJoin participant: IVSParticipantInfo)

func stage(_ stage: IVSStage, participantDidLeave participant: IVSParticipantInfo)

func stage(_ stage: IVSStage, participant: IVSParticipantInfo, didChange publishState: IVSParticipantPublishState)

func stage(_ stage: IVSStage, participant: IVSParticipantInfo, didChange subscribeState: IVSParticipantSubscribeState)

func stage(_ stage: IVSStage, participant: IVSParticipantInfo, didAdd streams: [IVSStageStream])

func stage(_ stage: IVSStage, participant: IVSParticipantInfo, didRemove streams: [IVSStageStream])

func stage(_ stage: IVSStage, participant: IVSParticipantInfo, didChangeMutedStreams streams: [IVSStageStream])

func stage(_ stage: IVSStage, didChange connectionState: IVSStageConnectionState, withError error: Error?)

Non è previsto che le informazioni fornite dal renderer influiscano sui valori restituiti della strategia. Ad esempio, non è previsto che il valore restituito di shouldSubscribeToParticipant cambi quando viene chiamato participant:didChangePublishState. Se l'applicazione host desidera effettuare la sottoscrizione a un particolare partecipante, deve restituire il tipo di abbonamento desiderato indipendentemente dallo stato di pubblicazione di quel partecipante. L'SDK è responsabile di garantire che lo stato desiderato della strategia venga applicato al momento giusto in base allo stato dello stage.

Ricorda che solo i partecipanti alla pubblicazione attivano participantDidJoin e ogni volta che un partecipante interrompe la pubblicazione o abbandona la sessione dello stage viene attivato participantDidLeave.

Pubblicazione di un flusso multimediale

I dispositivi locali, come microfoni e fotocamere integrati, vengono rilevati tramite IVSDeviceDiscovery. Ecco un esempio di selezione della fotocamera frontale e del microfono predefinito, che vengono poi restituiti come IVSLocalStageStreams per la pubblicazione dall'SDK:

let devices = IVSDeviceDiscovery().listLocalDevices()

// Find the camera virtual device, choose the front source, and create a stream
let camera = devices.compactMap({ $0 as? IVSCamera }).first!
let frontSource = camera.listAvailableInputSources().first(where: { $0.position == .front })!
camera.setPreferredInputSource(frontSource)
let cameraStream = IVSLocalStageStream(device: camera)

// Find the microphone virtual device and create a stream
let microphone = devices.compactMap({ $0 as? IVSMicrophone }).first!
let microphoneStream = IVSLocalStageStream(device: microphone)

// Configure the audio manager to use the videoChat preset, which is optimized for bi-directional communication, including echo cancellation.
IVSStageAudioManager.sharedInstance().setPreset(.videoChat)

// This is a function on IVSStageStrategy
func stage(_ stage: IVSStage, streamsToPublishForParticipant participant: IVSParticipantInfo) -> [IVSLocalStageStream] {
    return [cameraStream, microphoneStream]
}

Visualizzazione e rimozione dei partecipanti

Una volta completata la sottoscrizione, riceverai una serie di oggetti IVSStageStream tramite la funzione didAddStreams del renderer. Per visualizzare un'anteprima o ricevere le statistiche del livello audio su questo partecipante, puoi accedere all'oggetto IVSDevice sottostante dal flusso:

if let imageDevice = stream.device as? IVSImageDevice {
    let preview = imageDevice.previewView()
    /* attach this UIView subclass to your view */
} else if let audioDevice = stream.device as? IVSAudioDevice {
    audioDevice.setStatsCallback( { stats in
        /* process stats.peak and stats.rms */
    })
}

Quando un partecipante interrompe la pubblicazione o annulla l'iscrizione, la funzione didRemoveStreams viene chiamata con i flussi che sono stati rimossi. Le applicazioni host devono utilizzarlo come segnale per rimuovere il flusso video del partecipante dalla gerarchia delle visualizzazioni.

didRemoveStreams viene richiamato per tutti gli scenari in cui un flusso potrebbe essere rimosso, tra cui:

Poiché didRemoveStreams viene richiamato per tutti gli scenari, non è richiesta alcuna logica aziendale personalizzata per la rimozione dei partecipanti dall'interfaccia utente durante le operazioni di abbandono remote o locali.

Disattivazione e riattivazione dell'audio dei flussi multimediali

Gli oggetti IVSLocalStageStream hanno una funzione setMuted che controlla se l'audio del flusso è disattivato. Questa funzione può essere richiamata sul flusso prima o dopo la restituzione dalla funzione della strategia streamsToPublishForParticipant.

Importante: se una nuova istanza di oggetto IVSLocalStageStream viene restituita da streamsToPublishForParticipant dopo una chiamata a refreshStrategy, lo stato di silenziamento del nuovo oggetto di flusso viene applicato allo stage. Fai attenzione quando crei nuove istanze IVSLocalStageStream per assicurarti che lo stato di silenziamento previsto venga mantenuto.

Monitoraggio dello stato di silenziamento dei contenuti multimediali dei partecipanti remoti

Quando un partecipante modifica lo stato di silenziamento del proprio flusso video o audio, la funzione didChangeMutedStreams del renderer viene richiamata con una serie di flussi che sono stati modificati. Usa la proprietà isMuted su IVSStageStream per aggiornare l'interfaccia utente di conseguenza:

func stage(_ stage: IVSStage, participant: IVSParticipantInfo, didChangeMutedStreams streams: [IVSStageStream]) {
    streams.forEach { stream in 
        /* stream.isMuted */
    }
}

Creazione di una configurazione dello stage

Per personalizzare i valori della configurazione video di uno stage, usa IVSLocalStageStreamVideoConfiguration:

let config = IVSLocalStageStreamVideoConfiguration()
try config.setMaxBitrate(900_000)
try config.setMinBitrate(100_000)
try config.setTargetFramerate(30)
try config.setSize(CGSize(width: 360, height: 640))
config.degradationPreference = .balanced

Ottenimento delle statistiche WebRTC

Per ottenere le statistiche WebRTC più recenti per un flusso di pubblicazione o un flusso di iscrizione, usa requestRTCStats su IVSStageStream. Quando una raccolta è completata, riceverai statistiche tramite il IVSStageStreamDelegate che può essere impostato su IVSStageStream. Per raccogliere continuamente statistiche WebRTC, chiama questa funzione su un Timer.

func stream(_ stream: IVSStageStream, didGenerateRTCStats stats: [String : [String : String]]) {
    for stat in stats {
      for member in stat.value {
         print("stat \(stat.key) has member \(member.key) with value \(member.value)")
      }
   }
}

Ottieni gli attributi dei partecipanti

Se specifichi gli attributi nella richiesta dell'endpoint CreateParticipantToken, puoi visualizzarli nelle proprietà IVSParticipantInfo:

func stage(_ stage: IVSStage, participantDidJoin participant: IVSParticipantInfo) {
    print("ID: \(participant.participantId)")
    for attribute in participant.attributes {
        print("attribute: \(attribute.key)=\(attribute.value)")
    }
}

Continuazione della sessione in background

Quando l'app entra in background, puoi continuare a rimanere nello stage mentre ascolti l'audio remoto, anche se non puoi continuare a inviare la tua immagine e il tuo audio. Dovrai aggiornare la tua implementazione IVSStrategy per interrompere la pubblicazione e iscriverti a .audioOnly (o .none, se applicabile):

func stage(_ stage: IVSStage, shouldPublishParticipant participant: IVSParticipantInfo) -> Bool {
    return false
}
func stage(_ stage: IVSStage, shouldSubscribeToParticipant participant: IVSParticipantInfo) -> IVSStageSubscribeType {
    return .audioOnly
}

Quindi effettua una chiamata a stage.refreshStrategy().

Abilitazione/disabilitazione della codifica a livelli con simulcast

Quando si pubblica un flusso multimediale, l'SDK trasmette flussi video di alta e bassa qualità, pertanto i partecipanti remoti possono sottoscrivere il flusso anche se hanno una larghezza di banda limitata per il downlink. La codifica a livelli con simulcast è attiva per impostazione predefinita. Puoi disabilitarla con IVSSimulcastConfiguration:

// Disable Simulcast
let config = IVSLocalStageStreamVideoConfiguration()
config.simulcast.enabled = false

let cameraStream = IVSLocalStageStream(device: camera, configuration: config)

// Other Stage implementation code

Trasmissione della fase a un canale IVS

Per trasmettere uno stage, crea una IVSBroadcastSession separata e segui le normali istruzioni per la trasmissione con l'SDK descritte sopra. La proprietà device su IVSStageStream sarà un IVSImageDevice o IVSAudioDevice come mostrato nel frammento precedente; queste possono essere collegate al IVSBroadcastSession.mixer per trasmettere l'intero stage in un layout personalizzabile.

Facoltativamente, puoi comporre una fase e trasmetterla a un canale IVS a bassa latenza in modo da raggiungere un pubblico più vasto. Consulta Abilitazione di più host su un flusso Amazon IVS nella Guida per l'utente dello streaming a bassa latenza di IVS.