Esto es para bllenarla de una tabla de access pero es muy parecido para sql solo cambias el oledb por sql y en vez de importar el system.data.oledb importas el system.data.sqlclient, estos son los pasos
'Declaracion de variables
Dim sqlString As String = "SELECT * FROM customers"
Dim dataAdapter As OleDbDataAdapter = Nothing
Dim _dataSet As DataSet = Nothing
' Primero creas tu coneccion
Dim connection As New OleDbConnection(connString)
'Luego tu data adapter al cual le mandas como parametros tu
'sentencia sql y tu connecion
dataAdapter = New OleDbDataAdapter(sqlString, connection)
'Finalmente un dataset en donde cargaras tus datos y listo
_dataSet = New DataSet()
dataAdapter.Fill(_dataSet, "customers")
connection.Close()
'Entonces ya puedes llenar tu datagrid
Datagrid1.datasource = _dataSet
Datagrid1.DataMember = "customers"
Saludos