Visual Basic.NET - Exportar Dataset a Excel

Como puedo exportar un Dataset a un archivo Ms Excel y a un Ms Word?

Tienes dos caminos. Uno usando lo que se llamaba Ole Automation que en .NET se llama Interop. Debes agregar a las referencias de tu proyecto la biblioteca de objetos de Excel y Word.
Lo otra y que en tu caso me parece mas facil es crear un archivo separado por , o ; (para excel) y para word generar un RTF

Como lo hago? Como genero un RTF? Como exporto a Excel?

Lo mas facil entonces seria usar InterOp. Debes hacer lo siguiente :
1) Selecciona del menu Principal, Proyecto, Agregar Referencia...
2) Selecciona la pestaña COM
3) Selecciona Microsoft Excel Object Library
4) Selecciona Microsoft Word Object Library

Ahora puedes manipular los objetos de Excel/Word como si estuvieras dentro de VBA. Lo primero es crear la variable Application

Dim xlApp As Excel.Application
Dim xlWb As Excel.WorkBook
Dim xlSheet As Excel.WorkSheet

Te recomiendo ver el articulo http://support.microsoft.com/default.aspx?scid=kb;EN-US;q306022 que tiene una descripcion de varia smaneras de transferir datos a una hoja Excel

Hola:
He visto el ejemplo que pones y no lo llego a entender del todo.¿Te es mucha molestia explicarmelo?
Te pongo lo que no entiendo con "***"

'Create a Recordset from all the records in the Orders table.
Dim sNWind As String

******** Sii quiero usar un dataset ?? ******

******** Dim conexión As New OleDbConnection(cadenaDeConexión)
******** Dim comm As New OleDbCommand
******** comm.CommandText = "SELECT * FROM Clientes"
******** comm.Connection = conexión
******** Dim ds As New DataSet
******** Dim da As New OleDbDataAdapter(comm)
******** conexión.Open()
******** ******** ******** ******** ******** ******** ********
Dim conn As New ADODB.Connection()
Dim rs As ADODB.Recordset
conn.Open("Provider=Microsoft.Jet.OLEDB.4.0;Data Source=" & _
sNorthwind & ";")
conn.CursorLocation = ADODB.CursorLocationEnum.adUseClient
rs = conn.Execute("Orders", , ADODB.CommandTypeEnum.adCmdTable)

****** No sé como modificarlo **************

'Create a new workbook in Excel.
Dim oExcel As Object
Dim oBook As Object
Dim oSheet As Object
oExcel = CreateObject("Excel.Application")
oBook = oExcel.Workbooks.Add
oSheet = oBook.Worksheets(1)

'Transfer the field names to Row 1 of the worksheet:
'Note: CopyFromRecordset copies only the data and not the field
' names, so you can transfer the fieldnames by traversing the
' fields collection.
Dim n As Int32
For n = 1 To rs.Fields.Count
oSheet.Cells(1, n).Value = rs.Fields(n - 1).Name
Next

'Transfer the data to Excel.
oSheet.Range("A2").CopyFromRecordset(rs)

******* ¿Cómo hago para pasarlo a Word? ********

'Save the workbook and quit Excel.
oBook.SaveAs(sSampleFolder & "Book3.xls")
oSheet = Nothing
oBook = Nothing
oExcel.Quit()
oExcel = Nothing
GC.Collect()

'Close the connection
rs.Close()
conn.Close()

SALUDOS y GRACIAS